首页 >>  正文

hard+wired

来源:baiyundou.net   日期:2024-08-06

西风 发自 凹非寺

量子位 | 公众号 QbitAI

人工神经网络(ANN)的学习方式,竟然与人脑极为相似!

你没听错,至少在处理语言这块上,机器似乎更像人了。

先看下面这张图:

蓝色代表的是人的脑电波信号,红色代表的是人工神经网络信号。

而这是人脑和机器听同一个语音时所作出的反应。

是不是非常相似,有木有被惊到?

实际上这张图来源于最近的一项研究,相关论文已被发表在了Nature子刊Scientific reports上。

而此前,关于人的大脑以及机器的大脑是如何进行学习的问题,始终是一个谜。

“神经网络的学习方式是否与人类相同”这个话题,也一直存在争议。

所以到底有什么证据可以证明,人类和机器“很可能是以类似的方式处理语言”?

人工神经网络信号与人脑电波信号非常匹配

为了揭开人工神经网络学习的神秘面纱,加州大学伯克利分校的计算语言学家Gašper Beguš与约翰霍普金斯大学的博士生Alan Zhou、华盛顿大学神经科学家Christina Zhao进行了这项研究。

在这项研究中,他们给人类听一种简单的声音,然后收集人类听到声音后产生的脑电波。同时,将同一种声音输入到神经网络中,分析神经网络所产生的信号。

对两者进行比较,结果竟然出奇地相似。

最重要的是,研究人员测试了适用于各种任务的通用神经元组成的网络,即使是非常通用的网络(对语音或其它声音没有偏见),仍然展现出与人类神经编码的对应关系。

那这项研究具体是怎样进行的呢?

首先,为了更好地对比人类大脑与人工神经网络的反应情况,研究人员分别找来了14名说英语的人和15名说西班牙语的人。

然后对这些人播放了一个单音节音频——“bah”,每次播放8分钟,重复两次。

在播放的过程中,研究人员记录了每个听众脑干中神经元平均电活动的波动情况(脑干是大脑中最先处理声音的部分)。

另外,研究人员将相同的“bah”声音输入到两组不同的神经网络中。其中一组神经网络是经过英语训练的,另一组是经过西班牙语训练的。

研究人员选择的神经网络结构是生成式对抗网络(GAN)。

GAN最早在2014年被提出,用于生成图像。GAN由两个模块组成,分别是判别器(discriminator)和生成器(generator),它们之间相互博弈学习,可以产生更好的输出。

具体来说,生成器创建一个图像或声音的样本,判别器确定它与训练样本的接近程度并提供反馈,导致生成器再次反应,如此循环,直到GAN能够输出期望的结果。

而在这项研究中,判别器最初是在一系列英语或西班牙语的声音上进行训练的。

然后,从未接受过这些声音训练的生成器必须找到一种产生它们的方法。它开始制造随机的声音,经过约40,000次与判别器的交互后,生成器逐渐产生了正确的声音。经过这种训练,判别器也变得更善于区分真实声音以及生成的声音。

在判别器经过训练之后,研究人员就开始播放“bah”的声音。它们测量了判别器人工神经元的平均活动水平的波动,记录了神经网络的处理活动,重点关注了网络中用于分析声音的人工神经元层(以模拟脑干读数)。

将采集到的人脑电波信号与人工神经网络信号进行比较,结果见下图:

△使用英语的实验结果:蓝色是人脑电波,红色是人工神经网络信号(图源:Merrill Sherman/Quanta Magazine)

△使用西班牙语的实验结果:蓝色是人脑电波,橙色是人工神经网络信号(图源:Merrill Sherman/Quanta Magazine)

可以发现,这些人工神经网络信号与人脑电波信号非常匹配!

这也就说明了这两个系统正在进行类似的活动。

此外,这项实验还揭示了人类和机器之间的另一个有趣的相似之处。脑电波显示,说英语和说西班牙语的测试者对“bah”声音有不同的听觉感知(说西班牙语的人更多地听到了“pah”的声音)。

而GAN的信号也显示出了:接受英语训练的网络在处理声音时,与接受西班牙语训练的网络有些不同。

“而这些差异是朝着同一个方向产生的,”Beguš解释道。

说英语的人的脑干对“bah”声音的反应比说西班牙语的人稍微早一些,而受过英语训练的GAN对相同的声音的反应也比受过西班牙语训练的模型稍微早一些。

人类与机器的这种反应时间上的差异几乎是相同的,大约是千分之一秒。

这也为Beguš提供了额外的证据,即人类和人工网络“很可能是以类似的方式处理语言。”

乔姆斯基错了?

这项研究的结论,实际上与上世纪50年代语言学家乔姆斯基(Noam Chomsky)提出的“人类天生就具有理解语言的能力,这种能力与人脑是硬连接(hard-wired)”的观点相违背。

此外,乔姆斯基还提出了普遍语法(Universal Grammar)概念,即人脑普遍有一种语言习得机制,使人们能够学会使用语言。

难道,乔姆斯基的观点是错误的?

对此,有网友表示:

ChatGPT已经证明了学习语言以及理解语言并不需要语法。

也有网友保持怀疑态度:

人脑和神经网络并不是一回事,我们应该对通过研究神经网络的计算时间来研究人脑保持怀疑。

此外,该神经网络已经用人类语言进行了训练,所以这个说法也不能从观察到的时间推断出来。

Beguš则表示:这场辩论尚未结束。

△Gašper Beguš

他表示自己还将进一步探索人脑和神经网络之间的相似之处,例如,他正在测试大脑皮层发出的脑电波(在脑干完成其部分听觉处理后)是否与GAN更深层产生的信号相对应。

他们希望最终能够开发一个可靠的语言习得模型(language-acquisition model),用来描述机器和人类如何学习语言,从而进行在人类实验对象中无法进行的实验。

Beguš研究团队成员,华盛顿大学的神经科学家Christina Zhao表示:

例如,我们可以创造一个不良的环境,比如一个被忽视的婴儿,然后观察是否会导致类似语言障碍的情况。

此外,Beguš还说正在尝试看看这条路能够走多远,通用神经元能够多接近人类语言。

我们能否通过扩大和增强我们的计算架构,让其性能达到与人类相当的水平,或者能够证明这永远是不可能的。

在我们确切知道这个问题之前,还需要做更多的工作。但我们对这些系统的内部运作,对人类和人工神经网络的相似之处,依然感到非常惊讶。

对于人脑与人工神经网络你有什么看法?

传送门:

[1]https://www.nature.com/articles/s41598-023-33384-9(论文链接)

参考链接:

[1]https://www.quantamagazine.org/some-neural-networks-learn-language-like-humans-20230522/

— 完 —

量子位 QbitAI · 头条号签约

","gnid":"961238acdbf69c5bb","img_data":[{"flag":2,"img":[{"desc":"","height":"402","title":"","url":"https://p0.ssl.img.360kuai.com/t0138813be7bdb8ffd7.jpg","width":"1206"},{"desc":"","height":"626","title":"","url":"https://p0.ssl.img.360kuai.com/t012464a0728febd621.jpg","width":"1464"},{"desc":"","height":"378","title":"","url":"https://p0.ssl.img.360kuai.com/t014545de02529706ee.jpg","width":"532"},{"desc":"","height":"814","title":"","url":"https://p0.ssl.img.360kuai.com/t0106511c6fc5ce4fc7.jpg","width":"1184"},{"desc":"","height":"480","title":"","url":"https://p0.ssl.img.360kuai.com/t01838cafe5972f7134.jpg","width":"1342"},{"desc":"","height":"468","title":"","url":"https://p0.ssl.img.360kuai.com/t0174cc06af47f72810.jpg","width":"1344"},{"desc":"","height":"282","title":"","url":"https://p0.ssl.img.360kuai.com/t01bb1c343289e8b38b.jpg","width":"1178"},{"desc":"","height":"382","title":"","url":"https://p0.ssl.img.360kuai.com/t01fb80fd6248a3f8cd.jpg","width":"1180"},{"desc":"","height":"450","title":"","url":"https://p0.ssl.img.360kuai.com/t01676ca5218faabf54.jpg","width":"540"}]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"hbase","pub_time":1689752580000,"pure":"","rawurl":"http://zm.news.so.com/306081c04f72823aa25bfb9483de3243","redirect":0,"rptid":"bae1c86e4348853b","rss_ext":[],"s":"t","src":"量子位","tag":[],"title":"AI学语言与人脑极像!新研究:语言非人与生特有能力,机器也能学

詹弘壮4927机械公敌最后一个画面是什么意思 -
暴态岩17773573728 ______ 意思是机器人并没有问题,技术也不是问题,人类逻辑的局限才是最大的问题.因此,到头来我们才发现,人类最大的敌人不是别人,正是人类自己. Sonny立在沙漠之上,与其说像一个王者,不如说像一个面对自然的思考者,一个沉重的生涯...

詹弘壮4927谁能告诉我这个是什么电影 3Q了
暴态岩17773573728 ______ 威尔史密斯主演的《机械公敌》

詹弘壮4927一部关于机器人的美国电影,超刺激的,叫什么呢? -
暴态岩17773573728 ______ 是不是威尔史密斯的“我,机器人”? 中文片名:我,机器人 外文片名:I, Robot 更多中文片名:机械公敌/智能叛变 更多外文片名: Hardwired .....(USA) (working title) Yo, robot .....Argentina / Chile / Mexico / Peru / Spain Én, a robot .....Hungary...

詹弘壮4927帮我理解一下这句英文 谢谢啦 -
暴态岩17773573728 ______ 这个,在本质上,是现代社会的问题,发现在何种程度上的布线遗传规划的指引下,或至少有强烈的偏见,动物和人类与环境,也就是说,他们的行为.

詹弘壮4927求翻译下面这段话 谢谢 -
暴态岩17773573728 ______ 边缘系统的组件 边缘系统包括的领域 皮质和相邻的部分称为边缘叶(见右页) 与杏仁核、下丘脑,丘脑,乳头状的身体,和其他更深层次的, 更多的中央大脑结构.该系统也是“硬连接...

詹弘壮4927university degree是什么意思 -
暴态岩17773573728 ______ advanced university degree 高等学校学位 degree 英[dɪˈgri:] 美[dɪˈɡri] n. 程度; 学位; [乐] 音阶,度; [数] 度,度数; [网络] 结点的度; 角; 大学本科; [例句]others think that the rules for what is 'musical' are hard-wired in our brains to some degree. 其他人认为,我们的大脑对什么东西是“悦耳的”在某种程度上有其内在的标准. [其他] 复数:degrees 形近词: agree 双语例句 柯林斯词典 英英释义 百度百科

詹弘壮4927用英语翻译阿西莫夫生平简介 -
暴态岩17773573728 ______ 艾萨克·阿西莫夫,当代美国最著名的科普作家、科幻小说家、世界顶尖级科幻小说作家,他也是位文学评论家,美国科幻小说黄金时代的代表人物之一.他一生高产,著述颇丰,一生著述近500本,其中有100多部科幻小说,早已远远超过了...

詹弘壮4927to a certain degree是什么意思 -
暴态岩17773573728 ______ to a certain degree 英[tu: ə ˈsə:tn diˈɡri:]美[tu e ˈsɚtn dɪˈɡri] 词典 到达某种程度,在某种程度上; 多多少少 例句 1 Larger institutions, however, seem to still prefer banking platforms that favor homegrown applications to a certain ...

詹弘壮4927英语翻译to discover the degree to which hard - wired genetic programming dictates,or at least strongly bias,the interaction of animals and humans with their ... -
暴态岩17773573728 ______[答案] 这在本质上就是现代社会生物学的问题 —— 去发现固有的基因编程对动物和人类与其环境相互作用(即他们的行为)的支配程度,或者至少说是偏重的程度.

詹弘壮4927当开机屏幕上出现“Hard disk install failure”,该错误的中文含义是什么?怎样解决该故障?
暴态岩17773573728 ______ 中文:硬盘安装失败. 解释:这是因为硬盘的电源线或数据线可能未接好或者硬盘跳线设置不当.你可以检查一下硬盘的各根连线是否插好,看看同一根数据线上的两个硬盘的跳线的设置是否一样,如果一样,只要将两个硬盘的跳线设置的不一样即可(一个设为Master,另一个设为Slave).

(编辑:自媒体)
关于我们 | 客户服务 | 服务条款 | 联系我们 | 免责声明 | 网站地图 @ 白云都 2024