搜索
首页科技周边人工智能用机器学习解码一颗'失声”15年的大脑,让它'开口说话”

​大数据文摘作品

作者:Miggy

对于瘫痪患者来说,最大的苦楚来自无法与外界进行沟通。虽然大脑依然活跃并且希望表达,但是无法驱动发声肌肉,会让这类患者的语言机制逐渐蜕化。

来自加州大学旧金山分校神经外科主任Edward Chang正在为失去说话能力的人开发脑机接口技术。他的实验室致力于解码与声道命令相关的大脑信号,并通过神经植入物,将大脑的语言机能,通过计算机输出出来。该项目不仅需要当今最好的神经技术硬件,还需要强大的机器学习模型。

最近,这一技术也取得了长足的进步,让一位因瘫痪“失声”15年的患者利用电脑开始了与外界的交流。Chang也将这一技术过程记录了下来,发布在IEEE上。

一起来看看。

让一颗15年没有说话的大脑“开口

电脑屏幕上显示“你要喝点水吗?”这个问题。下面,三个小点正在闪烁,随后一行字出现:“不,我不渴。”

大脑的活动让沟通发生——值得一提的是,发出这段对话的,是一个超过 15 年没有说话的失声者的大脑。15年前,由于一次中风,他的大脑和身体其他部位就“断联”了,这位患者与外界的沟通从此停摆。他尝试使用许多新技术尝试与外界交流;最近,他使用附在棒球帽上的指针在触摸屏上敲击单词,这种方法有效但速度慢。

最近,这位患者自愿参加了 我的研究小组在旧金山加利福尼亚大学的临床试验,希望能探索一种更快的沟通方法。到目前为止,他只在研究期间可以利用大脑产生文字的这套技术系统,但他希望帮助将这项技术开发成像他这样的人可以在日常生活中使用的东西。

在我们的试点研究中,这位志愿者的大脑表面覆盖了一个薄而灵活的电极阵列。电极记录神经信号并将它们发送到语音解码器,语音解码器将信号翻译成他想说的话。这是无法说话的瘫痪者第一次使用神经技术从大脑中“广播”出整个单词,而不仅仅是字母。

该试验是十多年来对支配言语的潜在大脑机制研究的成果,我们为迄今为止所取得的成就感到无比自豪。但我们才刚刚开始。我在 UCSF的实验室正在与世界各地的同事合作,使这项技术足够安全、稳定和可靠,足以满足家庭日常使用。我们还在努力提高系统的性能,因此值得付出努力。

第一个版本的脑机接口给了志愿者一个包含 50 个实用单词的词汇。

神经植入物如何工作?

在过去的二十年里,神经植入物技术取得了长足的进步。用于听力的假体植入物发展得最远,其设计与内耳的耳蜗神经接口或直接进入听觉脑干。还有大量关于视网膜和大脑植入物的研究,以及为假手提供触觉的努力。所有这些感官假肢都从外部世界获取信息,并将其转换为电信号,输入大脑的处理中心。

上周,文摘菌还报道了一篇通过植入物帮助嗅觉失灵的患者重新感到味觉的案例。

另一类神经假肢记录大脑的电活动并将其转换为控制外部世界的信号,例如 机械臂、视频游戏控制器或计算机屏幕上的光标。BrainGate 联盟等组织已使用最后一种控制方式来让瘫痪的人输入单词——有时一次输入一个字母,有时使用自动完成功能来加快输入速度。

这类通过大脑进行打字的技术并非首创,不过,研究者通常将植入物放置在运动皮层,也即是控制运动的大脑部分。然后通过用户想象某些物理动作来控制在虚拟键盘上移动的光标。另一种方法是我的一些合作者在 2021 年的一篇论文中首创的,它让一个用户想象他正拿着笔在纸上写信,在运动皮层中产生信号,这些信号被翻译成文本。这种方法的打字速度诞生了新的记录,使志愿者每分钟可以写大约 18 个单词。

在我们最新的实验室研究中,我们采取了更高效率的方法。我们不是解码用户移动光标或笔的意图,而是解码控制声道的意图,包括控制喉部(通常称为语音盒)、舌头和嘴唇的数十块肌肉。

对于瘫痪的人来说,看似简单的对话设置是由复杂的神经技术硬件和解码他的大脑信号的机器学习系统实现的。

十多年前,我开始在这个领域工作。作为一名神经外科医生,我经常会看到严重受伤导致无法说话的患者。令我惊讶的是,在许多情况下,脑损伤的位置与我在医学院学到的综合征不匹配,我意识到我们仍然需要学习很多关于大脑如何处理语言的知识。我决定研究语言的潜在神经生物学,如果可能的话,开发一种脑机接口 (BMI) 来恢复失去语言的人的交流。除了我的神经外科背景外,我的团队还拥有语言学、电气工程、计算机科学、生物工程和医学方面的专业知识。

肌肉如何帮你说话​

语言是使 人类与众不同的能力之一。很多其他物种都会发声,但只有人类以无数不同的方式组合了一组声音来表达。这也是一种非常复杂的运动行为——一些专家认为这是人们执行的最复杂的运动行为。说话是通过声道的调制气流的产物;我们通过在喉部声带中产生可听见的振动并改变嘴唇、下巴和舌头的形状来塑造呼吸。

声道的许多肌肉与基于关节的肌肉(例如手臂和腿部的肌肉)完全不同,后者只能以几种规定的方式移动。例如,控制嘴唇的肌肉是括约肌,而构成舌头的肌肉更多地受液压控制——舌头主要由固定体积的肌肉组织组成,因此移动舌头的一部分会改变其形状别处。控制这些肌肉运动的物理原理与二头肌或腘绳肌完全不同。

因为涉及的肌肉如此之多,并且它们每一个都有如此多的自由度,所以基本上有无数种可能的配置。但是当人们说话时,事实证明他们使用的核心动作相对较少(在不同的语言中会有所不同)。例如,当说英语的人发“d”音时,他们会把舌头放在牙齿后面;当他们发出“k”音时,他们的舌根会向上接触到口腔后部的天花板。很少有人意识到说出最简单的词所需的精确、复杂和协调的肌肉动作。

团队成员 David Moses 查看患者脑电波读数 [左屏幕] 和解码系统活动显示 [右屏幕]。

我的研究小组专注于向面部、喉咙、嘴巴和舌头的肌肉发送运动命令的大脑运动皮层部分。这些大脑区域是多任务的:它们管理产生语言的肌肉运动,以及吞咽、微笑和接吻的相同肌肉的运动。

研究这些区域的神经活动需要毫米级的空间分辨率和毫秒级的时间分辨率。从历史上看,无创成像系统已经能够提供其中之一,但不能同时提供两者。当我们开始这项研究时,我们发现关于大脑活动模式如何与最简单的语音组成部分相关联的数据非常少:音素和音节。

在这里,我们要感谢我们的志愿者。在 UCSF 癫痫中心,准备手术的患者通常会通过手术将电极放置在他们的大脑表面上几天,这样我们就可以绘制出癫痫发作时所涉及的区域。在这几天的有线停机期间,许多患者自愿参加神经学研究实验,这些实验利用了他们大脑中的电极记录,让我们能够研究患者说话时的神经活动模式。

所涉及的硬件称为 皮层电图(ECoG)。ECoG 系统中的电极不会穿透大脑,而是位于大脑表面。我们的阵列可以包含数百个电极传感器,每个传感器记录数千个神经元。到目前为止,我们已经使用了一个具有 256 个通道的阵列。我们在这些早期研究中的目标是发现人们说简单音节时皮层活动的模式。我们要求志愿者说出特定的声音和单词,同时记录他们的神经模式并跟踪他们的舌头和嘴巴的运动。有时我们通过让他们涂上彩色面部彩绘并使用计算机视觉系统提取运动手势来做到这一点;其他时候,我们使用位于患者颌下的超声波机器对他们移动的舌头进行成像。

该系统从覆盖在患者大脑上的柔性电极阵列开始,以接收来自运动皮层的信号。该阵列专门捕获用于患者声道的运动命令。一个固定在头骨上的端口引导连接到计算机系统的电线,该系统将大脑信号解码并将其翻译成患者想说的话,再将他们的答案展示在显示屏上。

我们使用这些系统将神经模式与声道的运动相匹配。起初,我们有很多关于神经代码的问题。一种可能性是神经活动编码了特定肌肉的方向,大脑本质上就像按下键盘上的键一样打开和关闭这些肌肉,并且通过另一种模式决定肌肉收缩的速度。另一个是神经活动与用于产生某种声音的肌肉收缩的协调模式相对应。(例如,要发出“aaah”的声音,舌头和下巴都需要下垂。)我们发现,有一个表示图可以控制声道的不同部分,以及不同的大脑区域。我们可以将二者结合起来,以产生流利的言语。

人工智能在当今神经技术中的效用

我们的工作取决于过去十年人工智能的进步。我们可以将收集到的关于神经活动和语音运动学的数据输入神经网络,然后让机器学习算法在两个数据集之间的关联中找到模式,进而在神经活动和产生的语音之间建立联系,并使用这个模型来产生计算机生成的语音或文本。但是这种技术无法为瘫痪的人训练算法,因为我们缺少一半的数据:我们有神经模式,但没有关于相应的肌肉运动。

我们意识到,使用机器学习的更聪明的方法是将问题分为两个步骤。首先,解码器将来自大脑的信号翻译成声道肌肉的预期运动,然后将这些预期运动翻译成合成语音或文本。

我们称其为仿生方法,因为它复制了生物学的运动模式;在人体中,神经活动直接负责声道的运动,仅间接负责发出的声音。这种方法的一大优势在于训练解码器将肌肉运动转化为声音的第二步。因为声道运动和声音之间的关系更容易获取,我们能够在来自未瘫痪的人的大型数据集上训练解码器。

下一个重大挑战是将技术带给真正可以从中受益的人。

美国国立卫生研究院 (NIH) 正在资助 我们的试点试验,该试验于 2021 年开始。我们已经有两名植入了 ECoG 阵列的瘫痪志愿者,我们希望在未来几年招募更多人。主要目标是改善他们的沟通,我们以每分钟字数来衡量绩效。使用全键盘打字的成年人平均每分钟可以输入 40 个单词,最快的打字员可以达到每分钟 80 个单词以上的速度。

未来:用声音代替文字输出

我们认为,利用语音系统说话的效果会更好。人类讲话比打字快得多:说英语的人一分钟可以轻松地说出 150 个单词。我们想让瘫痪的人以每分钟 100 字的速度进行交流。为了实现这一目标,我们还有很多工作要做。

植入程序和其他的植入物类似。首先,外科医生切除一小部分颅骨;接下来,将柔性 ECoG 阵列轻轻放置在皮层表面。然后将一个小端口固定在颅骨上,并通过头皮上的一个单独开口离开。我们目前需要这个端口,它连接到外部电线以从电极传输数据,但我们希望将来使系统无线化。

我们考虑使用穿透性微电极,因为它们可以记录较小的神经群体,因此可以提供有关神经活动的更多细节。但目前的硬件在临床应用中不如 ECoG 强大和安全。

另一个考虑因素是,穿透电极通常需要每天重新校准才能将神经信号转化为清晰的命令,而对神经设备的研究表明,设置速度和性能可靠性是让人们使用该技术的关键。这就是为什么我们在 创建长期使用的“即插即用”系统时优先考虑稳定性的原因。我们进行了一项研究,观察志愿者的神经信号随时间的变化,发现如果解码器使用多个会话和多天的数据模式,它的性能会更好。在机器学习的术语中,我们说解码器的“权重”被继承,产生了整合的神经信号。

因为我们的瘫痪志愿者在我们观察他们的大脑模式时不能说话,所以我们要求我们的第一位志愿者尝试两种不同的方法。他首先列出了 50 个对日常生活很方便的单词,例如“饿”、“口渴”、“请”、“帮助”和“计算机”。在几个月的 48 次会议中,我们有时要求他想象说出清单上的每个单词,有时要求他开口尝试“说出”这些单词。我们发现尝试说话会产生更清晰的大脑信号,并且足以训练解码算法。然后志愿者可以使用列表中的这些单词来生成他自己选择的句子,例如“不,我不口渴”。

我们现在正在努力扩大词汇量。为了实现这一目标,我们需要继续改进当前的算法和界面,但我相信这些改进将在未来几个月和几年内发生。现在已经建立了原理证明,目标是优化。我们可以专注于让我们的系统更快、更准确,并且——最重要的是——更安全、更可靠。现在事情应该进展得很快。

如果我们能够更好地了解我们试图解码的大脑系统,以及瘫痪如何改变它们的活动,那么最大的突破可能会到来。我们已经意识到,无法向声道肌肉发送指令的瘫痪患者的神经模式与能够发送指令的癫痫患者的神经模式截然不同。我们正在尝试一项雄心勃勃的 BMI 工程壮举,同时还有很多关于潜在神经科学的知识需要了解。我们相信,这一切都会汇聚在一起,让我们的患者交流的能力。

素材来源:https://spectrum.ieee.org/brain-computer-interface-speech​

以上是用机器学习解码一颗'失声”15年的大脑,让它'开口说话”的详细内容。更多信息请关注PHP中文网其他相关文章!

声明
本文转载于:51CTO.COM。如有侵权,请联系admin@php.cn删除
解读CRISP-ML(Q):机器学习生命周期流程解读CRISP-ML(Q):机器学习生命周期流程Apr 08, 2023 pm 01:21 PM

译者 | 布加迪审校 | 孙淑娟目前,没有用于构建和管理机器学习(ML)应用程序的标准实践。机器学习项目组织得不好,缺乏可重复性,而且从长远来看容易彻底失败。因此,我们需要一套流程来帮助自己在整个机器学习生命周期中保持质量、可持续性、稳健性和成本管理。图1. 机器学习开发生命周期流程使用质量保证方法开发机器学习应用程序的跨行业标准流程(CRISP-ML(Q))是CRISP-DM的升级版,以确保机器学习产品的质量。CRISP-ML(Q)有六个单独的阶段:1. 业务和数据理解2. 数据准备3. 模型

基于因果森林算法的决策定位应用基于因果森林算法的决策定位应用Apr 08, 2023 am 11:21 AM

译者 | 朱先忠​审校 | 孙淑娟​在我之前的​​博客​​中,我们已经了解了如何使用因果树来评估政策的异质处理效应。如果你还没有阅读过,我建议你在阅读本文前先读一遍,因为我们在本文中认为你已经了解了此文中的部分与本文相关的内容。为什么是异质处理效应(HTE:heterogenous treatment effects)呢?首先,对异质处理效应的估计允许我们根据它们的预期结果(疾病、公司收入、客户满意度等)选择提供处理(药物、广告、产品等)的用户(患者、用户、客户等)。换句话说,估计HTE有助于我

2023年机器学习的十大概念和技术2023年机器学习的十大概念和技术Apr 04, 2023 pm 12:30 PM

机器学习是一个不断发展的学科,一直在创造新的想法和技术。本文罗列了2023年机器学习的十大概念和技术。 本文罗列了2023年机器学习的十大概念和技术。2023年机器学习的十大概念和技术是一个教计算机从数据中学习的过程,无需明确的编程。机器学习是一个不断发展的学科,一直在创造新的想法和技术。为了保持领先,数据科学家应该关注其中一些网站,以跟上最新的发展。这将有助于了解机器学习中的技术如何在实践中使用,并为自己的业务或工作领域中的可能应用提供想法。2023年机器学习的十大概念和技术:1. 深度神经网

使用PyTorch进行小样本学习的图像分类使用PyTorch进行小样本学习的图像分类Apr 09, 2023 am 10:51 AM

近年来,基于深度学习的模型在目标检测和图像识别等任务中表现出色。像ImageNet这样具有挑战性的图像分类数据集,包含1000种不同的对象分类,现在一些模型已经超过了人类水平上。但是这些模型依赖于监督训练流程,标记训练数据的可用性对它们有重大影响,并且模型能够检测到的类别也仅限于它们接受训练的类。由于在训练过程中没有足够的标记图像用于所有类,这些模型在现实环境中可能不太有用。并且我们希望的模型能够识别它在训练期间没有见到过的类,因为几乎不可能在所有潜在对象的图像上进行训练。我们将从几个样本中学习

LazyPredict:为你选择最佳ML模型!LazyPredict:为你选择最佳ML模型!Apr 06, 2023 pm 08:45 PM

本文讨论使用LazyPredict来创建简单的ML模型。LazyPredict创建机器学习模型的特点是不需要大量的代码,同时在不修改参数的情况下进行多模型拟合,从而在众多模型中选出性能最佳的一个。 摘要本文讨论使用LazyPredict来创建简单的ML模型。LazyPredict创建机器学习模型的特点是不需要大量的代码,同时在不修改参数的情况下进行多模型拟合,从而在众多模型中选出性能最佳的一个。​本文包括的内容如下:​简介​LazyPredict模块的安装​在分类模型中实施LazyPredict

Mango:基于Python环境的贝叶斯优化新方法Mango:基于Python环境的贝叶斯优化新方法Apr 08, 2023 pm 12:44 PM

译者 | 朱先忠审校 | 孙淑娟引言模型超参数(或模型设置)的优化可能是训练机器学习算法中最重要的一步,因为它可以找到最小化模型损失函数的最佳参数。这一步对于构建不易过拟合的泛化模型也是必不可少的。优化模型超参数的最著名技术是穷举网格搜索和随机网格搜索。在第一种方法中,搜索空间被定义为跨越每个模型超参数的域的网格。通过在网格的每个点上训练模型来获得最优超参数。尽管网格搜索非常容易实现,但它在计算上变得昂贵,尤其是当要优化的变量数量很大时。另一方面,随机网格搜索是一种更快的优化方法,可以提供更好的

人工智能自动获取知识和技能,实现自我完善的过程是什么人工智能自动获取知识和技能,实现自我完善的过程是什么Aug 24, 2022 am 11:57 AM

实现自我完善的过程是“机器学习”。机器学习是人工智能核心,是使计算机具有智能的根本途径;它使计算机能模拟人的学习行为,自动地通过学习来获取知识和技能,不断改善性能,实现自我完善。机器学习主要研究三方面问题:1、学习机理,人类获取知识、技能和抽象概念的天赋能力;2、学习方法,对生物学习机理进行简化的基础上,用计算的方法进行再现;3、学习系统,能够在一定程度上实现机器学习的系统。

超参数优化比较之网格搜索、随机搜索和贝叶斯优化超参数优化比较之网格搜索、随机搜索和贝叶斯优化Apr 04, 2023 pm 12:05 PM

本文将详细介绍用来提高机器学习效果的最常见的超参数优化方法。 译者 | 朱先忠​审校 | 孙淑娟​简介​通常,在尝试改进机器学习模型时,人们首先想到的解决方案是添加更多的训练数据。额外的数据通常是有帮助(在某些情况下除外)的,但生成高质量的数据可能非常昂贵。通过使用现有数据获得最佳模型性能,超参数优化可以节省我们的时间和资源。​顾名思义,超参数优化是为机器学习模型确定最佳超参数组合以满足优化函数(即,给定研究中的数据集,最大化模型的性能)的过程。换句话说,每个模型都会提供多个有关选项的调整“按钮

See all articles

热AI工具

Undresser.AI Undress

Undresser.AI Undress

人工智能驱动的应用程序,用于创建逼真的裸体照片

AI Clothes Remover

AI Clothes Remover

用于从照片中去除衣服的在线人工智能工具。

Undress AI Tool

Undress AI Tool

免费脱衣服图片

Clothoff.io

Clothoff.io

AI脱衣机

AI Hentai Generator

AI Hentai Generator

免费生成ai无尽的。

热门文章

R.E.P.O.能量晶体解释及其做什么(黄色晶体)
2 周前By尊渡假赌尊渡假赌尊渡假赌
仓库:如何复兴队友
1 个月前By尊渡假赌尊渡假赌尊渡假赌
Hello Kitty Island冒险:如何获得巨型种子
4 周前By尊渡假赌尊渡假赌尊渡假赌

热工具

安全考试浏览器

安全考试浏览器

Safe Exam Browser是一个安全的浏览器环境,用于安全地进行在线考试。该软件将任何计算机变成一个安全的工作站。它控制对任何实用工具的访问,并防止学生使用未经授权的资源。

PhpStorm Mac 版本

PhpStorm Mac 版本

最新(2018.2.1 )专业的PHP集成开发工具

ZendStudio 13.5.1 Mac

ZendStudio 13.5.1 Mac

功能强大的PHP集成开发环境

SublimeText3 Linux新版

SublimeText3 Linux新版

SublimeText3 Linux最新版

记事本++7.3.1

记事本++7.3.1

好用且免费的代码编辑器