寐的一词多义
明敏 发自 凹非寺
量子位 | 公众号 QbitAI
以画画水平高超而风靡全球的DALL-E 2，语文水平被质疑了。
比如bat这个多义词，就把它给考住了。
a bat is flying over a baseball stadium（一只蝙蝠/球棍从棒球场上飞过）。
结果它画出来的图，蝙蝠和球拍都在天上飞。
而且这不是偶然的失误，如果输入“a person is hearing a bat”，画出来的还是蝙蝠和球棒都存在。
换成另一种情况，输入a fish and a gold ingot（一条鱼和一个金锭）。
好嘛，直接把两种东西都铸金了，变成真金·鱼。
可不能低估了这些失误，因为它们意味着DALL-E 2在根据文本生成图像的过程中，对语言中符号到实体的基本映射关系。
即一个词对应一个实体。
以bat举例，画出蝙蝠或者球棍，都算DALL-E 2理解正确，但是如果两个都给，那就有问题了。
这就好比本身是单选题，填A或B都对，可是把两个都写上就违反了规则。
更何况有时候它还把不同物体的修饰词弄错，“上一道题的解法用在下一道上”。
发现这一问题的，是来自巴伊兰大学、艾伦人工研究智能所的学者们，并且专门写了篇论文分析。
有趣的是，研究人员约阿夫·高柏（Yoav Goldberg）还提到，这种情况在mini DALL-E和Stable Diffusion中并不常见。
我猜这可能是因为所谓的逆规模现象（inverse scaling）。
简单理解就是“模型越大性能越差”。
论文具体说了啥？
几位学者在发现问题后，又反复进行了多次试验，并把问题主要划分为三种情况：
- 第一、一个单词被解释为两个不同的事物
- 第二、一个单词被解释为两个不同事物的修饰词
- 第三、一个单词在被解释为一个事物的同时，又被理解成另一种事物的修饰词
前两种情况开头已经提过。
第三种情况举例来说，输入“一匹斑马和一条街道”，输出的结果中一直都有斑马线。
在这里，DALL-E 2把斑马同时解释了两次。
在针对这些情况都重复试验后，作者计算出DALL-E 2在三种情况下，出现失误的概率都超过80%。
其中第二种情况的失误率最高，达到97.2%。
第三种情况下，如果给另一个名词前加上新的修饰词，可以避免失误发生。
即输入一匹斑马和一条碎石路，路面上就没有斑马线出现了。
而在用DALL-E mini和Stable Diffusion时，这些重复解释的情况并不常见。
作者解释，未来可以考虑研究模型的文本编解码器来追溯这些问题，并且可以研究这些问题和模型大小、框架是否有关系。
作者之一Yoav Goldberg是巴伊兰大学的杰出教授，也是艾伦人工智能研究院以色列分院的研究主任。
之前，他在纽约的谷歌研究中心做博士后。研究兴趣方向为NLP和机器学习，尤其对语法解析感兴趣。
还曾发现DALL-E 2自创语言
不过就在几个月之前，一位计算机专业的博士小哥发现，给DALL-E 2喂一些奇怪的语言，它也能生成同一类的图像。
而这些词，正是来自DALL-E 2生成图像中的。
比如输入“两个农民谈论蔬菜，带字幕（Two farmers talking about vegetables, with subtitles）”后，DALL-E 2给出的图像中，出现了一些“乱码”的词汇。
而如果再把图像中的新词Vicootes”当作描述丢给模型，没想到，出来这样一堆图像：
有萝卜、有南瓜、有小柿子……难道“Vicootes”就代表蔬菜？
如果再把上图气泡中一串“Apoploe vesrreaitais”扔给DALL-E 2，一堆鸟图出现了：
“难道说，这个单词代表‘鸟’，所以农民们似乎在谈论影响他们蔬菜的鸟类？”
当时，这位博士小哥把自己的发现发布在网络上后，立刻引起热议。
有人试图分析DALL-E 2是如何加密语言的，还有人觉得这只是噪声。
不过总的来说，在语言理解方面，DALL-E 2总能搞出点让人意想不到的事。
你觉得这背后原因到底是什么呢？
论文地址：
https://arxiv.org/pdf/2210.10606.pdf参考链接：
https://twitter.com/yoavgo/status/1583088957226881025— 完 —
量子位 QbitAI · 头条号签约
","force_purephv":"0","gnid":"91619eedbc13fab74","img_data":[{"flag":2,"img":[{"desc":"","height":"910","title":"","url":"https://p0.ssl.img.360kuai.com/t01cb5ad8bb0025ca1f.jpg","width":"910"},{"desc":"","height":"1084","title":"","url":"https://p0.ssl.img.360kuai.com/t0143a951e7efc95028.jpg","width":"1080"},{"desc":"","height":"964","title":"","url":"https://p0.ssl.img.360kuai.com/t01a4cf1517f92d6fe3.jpg","width":"982"},{"desc":"","height":"188","title":"","url":"https://p0.ssl.img.360kuai.com/t01658348a226c17cbf.jpg","width":"1080"},{"desc":"","height":"972","title":"","url":"https://p0.ssl.img.360kuai.com/t0101b744fea12fd2b5.jpg","width":"970"},{"desc":"","height":"900","title":"","url":"https://p0.ssl.img.360kuai.com/t0157d6ba672bcd05b5.jpg","width":"900"},{"desc":"","height":"450","title":"","url":"https://p0.ssl.img.360kuai.com/t01be9fc434efd8c191.jpg","width":"450"},{"desc":"","height":"452","title":"","url":"https://p0.ssl.img.360kuai.com/t0177b996132983c232.jpg","width":"472"},{"desc":"","height":"542","title":"","url":"https://p0.ssl.img.360kuai.com/t01a734e80c78ac41d3.jpg","width":"1080"},{"desc":"","height":"432","title":"","url":"https://p0.ssl.img.360kuai.com/t0156126fe33637b346.jpg","width":"1080"}]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"cache","pub_time":1666500420000,"pure":"","rawurl":"http://zm.news.so.com/3f9161792996bca8231755948b4a576c","redirect":0,"rptid":"b58b30d97e38d546","s":"t","src":"量子位","tag":[{"clk":"kculture_1:斑马","k":"斑马","u":""}],"title":"DALL-E 2被吐槽：金子和鱼画成真金·鱼，遇到一词多义就拉胯
任饺彼4068浸的一词多义是什么 -
鲍儿差18347535134 ______ “浸”的一词(字)多义 :浸,读jìn.1.泡,使渗透:浸泡.浸透.浸种(zhǒng).浸渍.浸没(mò).沉浸(亦称“浸沉”). 2.逐渐:浸染.浸渐.浸润.
任饺彼4068蒲松龄 奔入伏焉 伏是什么意思? -
鲍儿差18347535134 ______ 《狼三则》选自蒲松龄先生的《聊斋志异》,《狼三则》都是写屠户在不同情况下遇狼杀狼的故事.第一则着重表现狼的贪婪本性,第二则着重表现狼的欺诈伎俩.第三则着重表现狼的爪牙锐利,但最终却落得个被杀死的下场,作者借...
任饺彼4068文言文的句式有几种?分别有哪些特征? -
鲍儿差18347535134 ______[答案] 结构: (一)判断句 所谓判断句,就是以名词、代词或名词性短语为谓语对主语进行判断的句式.其常见的形式有以下几种... 对通假字、一词多义、词类的活用,用法多样的一些虚词等要特别注意,一定要联系上下文,选准它的确切解释. 理:调整...
任饺彼4068总结高中一词多义必修一至四 -
鲍儿差18347535134 ______[答案] 1. 用,拿,把,将:~一当十.~苦为乐.~身作则.~邻为壑.~讹传讹.~往鉴来. 2. 依然,顺,按照:~时启闭.物~类聚. 3. 因为:~人废言.勿~善小而不为.不~物喜,不~己悲. 4. 在,于(指时日):“子厚~元和十四年十一月八日卒,年四十七”. 5. 目的在于...
任饺彼4068庄子故事两则的通假字 古今异义 一词多义 词类活用 -
鲍儿差18347535134 ______ 通假字今子欲以子之梁国而吓我邪 ?邪, 通“ 耶” 语气词,相当于“吗”词类活用惠子相梁:相,名词活用作动词,做宰相一词多义①吓 仰而视之曰:“吓”:模仿鸱发...
任饺彼4068总结高中一词多义必修一至四 -
鲍儿差18347535134 ______ 1. 用,拿,把,将:~一当十.~苦为乐.~身作则.~邻为壑.~讹传讹.~往鉴来. 2. 依然,顺,按照:~时启闭.物~类聚. 3. 因为:~人废言.勿~善小而不为.不~物喜,不~己悲. 4. 在,于(指时日):“子厚~元和十四年十一月八日卒,...
任饺彼4068《诗经》两首习题,一、一词多义:以:秋以为期 ( ) 以望复关 ( )以尔车来 ( ) 以其无理于晋 ( )籍何以至此 ( ) 得鱼腹中书,固以怪之矣 ( )之... -
鲍儿差18347535134 ______[答案] 一、一词多义: 以: 秋以为期 (介词,拿、用 ) 以望复关 ( 连词来 ) 以尔车来 ( 介词拿 ) 以其无理于晋 (连词因为 ) 籍何以至此 ( 介词凭 ) 得鱼腹中书,固以怪之矣 ( “以”通“已”,已经 ) 之: 桑之未落(主谓间助词,取独 ) 君子...
任饺彼4068苏武传 的古今异义 一词多义 词类活用 文言句式 -
鲍儿差18347535134 ______[答案] 苏武传 的古今异义 一词多义 词类活用 文言句式 (一)古今异义 1.汉亦留之以相当.相当:古义:抵押.今义:差不多. 2.皆为陛下所成就 .成就:古义:提拔.今义:业绩. 3.我丈人行也.丈人:古义:老人,长辈.今义:岳父. 4.幸蒙其赏赐.赏赐:古义:照...
任饺彼4068醉翁亭记 一词多义 -
鲍儿差18347535134 ______ 1、“而”字的一词多义及其妙用 《醉翁亭记》是散文中别出一格特具风采的名篇,也是体现欧阳修散文风格的代表作.历来人们称赞文中多用陈述句,并以二十一个“也”字作句尾,形成一种别致的咏哦句调.我认为除了这个特点...
任饺彼4068岳阳楼记中的一词多义 一义多词 通假字 古今异义一词多义是在本文中多次出现的同一个字有不同的意思,而不是和其他文章比较 -
鲍儿差18347535134 ______[答案] 词多义 夫: 1)予观夫巴陵胜状 那 2)夫环而攻之 发语词,不译 3)未几,夫鼾声起 丈夫 观: 1)予观夫巴陵胜状 看 2)此则岳阳楼之大观也 雄伟景象 极: 1)北通巫峡,南极潇湘 尽 ...