设为首页 - 加入收藏
广告 1000x90
您的当前位置:311211黄大仙生肖资料 > 句子产生器 > 正文

一种神经解码器采用循环神经网络的方式将记录的皮质信号

来源:未知 编辑:admin 时间:2019-05-28

  据悉,研究人员设计一种神经解码器,采用循环神经网络(Recurrent Neural Network,RNN)的方式将记录的皮质神经信号,然后编码咬合关节运动的表征,以合成可听语音。

  也就是说,严重瘫痪的病患可以使用基于该技术的产品通过大脑皮层活动更有效地向任何人发送文字信息。可以想象,像此前受肌萎缩侧索硬化ALS病症多年折磨的著名物理学家史蒂芬 霍金(Stephen Hawking)一定也非常乐意看到深度学习技术能够应用于临床医学上的突破。

  随后,谷歌大脑 Jeff Dean 通过 Twitter 转发了这条消息,并赞叹该项研究成果,“非常酷!可以直接从神经活动中快速产生语音。”

  摘要:将大脑神经活动转换成语音的技术,对于因神经损伤而无法正常沟通的人类来说将具有变革意义。从技术上来讲,从神经活动中解码语音是非常具有挑战性的,因为说话需要对声道的咬合结构进行非常精确和快速的多维控制。通过设计一种神经解码器,明确地利用人类皮层活动中编码的运动和声音表征来合成可听语音。

  循环神经网络(RNN)将记录的皮质神经信号直接解码为咬合关节运动的表征,然后将这些表征再转换为语音。在封闭的词汇测试中,听众可以很容易地识别和转录皮层活动从而合成语音。即便数据有限,中间关节运动(Intermediate articulatory dynamics )也能提高性能。

  经过解码的语音表征非常保守,使得解码器的一个组件可跨不同受试者进行转换。此外,当受试者静默地模仿句子时,解码器可以合成语音。

  许多患者是依靠通信设备来转录头部、眼睛或者直接的大脑皮层活动中的信息,然后再控制光标逐个选择字幕来拼写单词。例如,患者此前使用的语音合成系统基本就是这样的原理。虽然该系统显著提高了患者的生活质量,但多数用户很难在一分钟内传递超过 10 个单词,这一速度远低于自然语言中 150 词 / 分钟的平均速度。一个主要障碍就是如何克服当前基于拼写的方法限制,以实现更高效的沟通效率。

  基于拼写的方法最好的替代方式就直接进行语音合成。因为拼写是离散字母的连续串联,而语音是由重叠的、多发声器的声道运动的流体产生的。为此,基于声道运动及其产生的声音模仿方法可能是实现自然语言的唯一高效沟通手段,并且还是可以保证用户学习的最直观手段。例如,患有麻痹症(ALS 或脑干中风)的患者,高保真语音控制信号可仅通过使用大脑 - 计算机接口直接记录完整皮质网络进行访问。

  为了证明神经语言假体的可行性,研究人员试图将大脑信号转换成可理解的正常说话人语速的合成语音。研究人员采用了一种叫做高密度脑皮层电图(ECoG)的技术,让 5 名患有癫痫病的患者大声说出几百个句子,直接记录下受试者大脑皮层的神经活动,并跟踪控制语音和发生部位运动的大脑区域活动。

  如图所示,研究人员采用的解码器方法可分为两个阶段:第一阶段,双向长期短期记忆(bLSTM)循环神经网络解码来自联系神经活动的关节运动特征;第二阶段,单独的 bLSTM 解码来自第一阶段解码出的关节特征的声音特征,然后从解码的声音特征合成音频信号。

  声音,由于不是典型的频谱图,研究人员使用了 25 个梅尔频率倒频谱系数(MFCC),5 个子带声音强度用于声门激励建模、音调和发声(总共 32 个特征)。这些声学参数是用于感知电管的声音特征,同时最大化音频重建的质量。

  关节运动表征,即存在于神经活动和声音之间的解码器的一个关键组成部分。由于无法同步记录神经活动,研究人员采用了一种基于说话人的声音 - 发声(Acoustic-to-Articulatory)转换统计方法,来测出受试者产生的语音信号对应的声道运动轨迹。研究人员还添加了额外的生理特征(如关节运动),并在语音自动解码器中对值进行了优化,进而推断在语音产生期间声道生理的完整中间关节运动表征。

  值得一提的是,该项研究成果之一的 Edward Chang(中文名:张复伦)还是名华裔神经外科医生,擅长治疗成人癫痫、脑肿瘤等疾病,研究主要集中于语言、运动和情感的大脑机制。

  最早在 2017 年,张复伦等人在 Science 杂志发表论文,阐述大脑皮层颞上回神经元在语言中的重要性。

  在 2011 年 5 月的美国新闻与世界报导对他的采访中,张复伦就表示:“医学界长期忽视神经修复学,直到最近科技发展迅速才获得重视。相信在未来的 5 到 10 年间,电脑科技对神经性疾病患者,如柏金森氏症和阿兹海默症、癫痫等,将会有更多治疗方式。”

  据了解,张复伦来自典型的中国台湾移民家庭。他曾表示:“生命中有很多选择的机会,成为神经外科医师是一连串的机遇,但父母的支持,让他可以全神贯注钻研神经科学,达到今天的成就。”

  Facebook全新开源深度学习框架Pythia,即插即用快速构建AI模型

本文链接:http://homehelp4u.net/juzichanshengqi/144.html

相关推荐:

网友评论:

栏目分类

现金彩票 联系QQ:24498872301 邮箱:24498872301@qq.com

Copyright © 2002-2011 DEDECMS. 现金彩票 版权所有 Power by DedeCms

Top