马车内部描写

29日，生命未来研究所（Future of Life Institute）公布一封公开信，呼吁全球所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。

该公开信的网页截图

截至发稿，这封信已有1125名科技领袖和研究人员签名，除了亿万富翁马斯克、“人工智能教父”的杰弗里·辛顿，和纽约大学教授加里·马库斯之外，还包括图灵奖得主约书亚·本希奥、 苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等科技界领袖人物。

为什么暂停？停下来干什么？

微软的AI聊天机器人Bing对这封公开信的描述（图片来源：网页截图）

对于暂停的原因，信中解释为：人工智能系统已经被证明可能对社会和人类构成深远的风险，但最近相关热潮已经“陷入了一场失控的竞赛”。

在信中，他们抛出了四个问题来揭示人工智能可能带来的风险：

• 我们是否应该让机器用宣传和谎言淹没我们的信息渠道？
• 我们是否应该让所有的工作自动化，包括那些令人满意的工作？
• 我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维？
• 我们应该冒着失去对我们文明控制的风险吗？

因此这封信呼吁，所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。否则各国政府应介入并实行暂停。

在暂停期间，相关企业和科技界应共同开发和实施一套共享安全协议，并建立相关的监控机构、追踪设计和审议制度以确保安全。

AI到底有什么现实的威胁？

“人工智能教父”杰弗里·辛顿认为人工智能对人类构成威胁“并非不可想象”（图片来源：澎湃新闻）

这封公开信提出的四个问题可以说是逐步递进的，而其中最现实的就是第一个问题。

据中新网援引路透社报道，欧洲刑警组织(Europol)日前也认为，ChatGPT等人工智能可能会被滥用于网络钓鱼、虚假信息和网络犯罪。此外，英国政府也公布了关于建立AI监管框架的提议。

参与公开信联署的纽约大学教授加里·马库斯指出，比起担忧天网和机器人“接管世界”，应该更多思考眼前的风险。包括恐怖分子在内的犯罪分子可能对大型语言模型做什么，以及如何阻止他们。

美国作家、纽约大学教授盖瑞·马库斯（资料图片）

换句话说就是，与其担心AI太聪明以至于毁灭人类，还不如担心AI太笨以至于被不法分子利用。

马库斯认为，许多普通人也曾在人类历史中制造过各种各样的灾难。所以起关键作用的不是智力，而是权力。而现在，人工智能已经被赋予了太多的权力，比如所有信息的访问权限，和生成品不受约束的传播能力，所以必须要对其施加管控。

科技公司已开始进行改进

微软的AI聊天机器人Bing已经可以辨别并拒绝一些明显的错误观点（图片来源：网页截图）

对于这封公开信当中提到的问题，科技巨头们其实也早有预期。

早些时候，微软开启人工智能辅助搜索引擎Bing公开测试时，有用户发现，新版Bing在部分情况下会出现侮辱用户、撒谎等行为，甚至会试图引导用户的情绪。

对此微软很快进行了调整，优化回答的语气以及准确性；同时，官方也承认，较长时间的连续对话，很可能会导致新版Bing“翻车”。

网友发布的微软在新版Bing中加入广告链接的截图，百度：？（图片来源：社交媒体）

但就在最近，微软已经测试在新Bing中加入广告。这种新形式的广告是无法拦截的。这也引发了人们对于商业信息可能会进一步渗透人工智能的担忧。

关于人类和AI关系的思考，从技术诞生之初就没有停过。

如今，从通过资格考试，到进行艺术“创作”，AI能做的事越来越多，朝着“智能”的方向越走越远。但同时，利用AI技术进行网络诈骗勒索、传播非法信息等犯罪行为也层出不穷。

不同于物理世界技术创新成果转化的漫长周期，AI技术突破往往会通过互联网一夜之间散播全球。在人类未能就AI伦理、监管等找到妥善解决之道前，这些讨论和担忧并不多余。

推特网友@nikola_horvath：

暂停6个月只会将问题推迟6个月。我想说，这更像是马斯克公司想利用这种延迟来搞自己的AI与ChatGPT竞争。看起来科技富豪不喜欢别人抢在他前边哦。

推特网友@IanCalv63274296：

但是我用最先进的AI做了风险评估，它告诉我说AI没有风险啊（讽刺）。

推特网友@realadamrsweet：

很高兴能看到像马斯克这样的技术领导者认识到先进的AI系统有潜在风险。最重要的是要进行负责任的人工智能开发，防止对社会和人类产生负面影响。

推特网友@yao2377：

那是因为马斯克跟不上AI发展了。假如告诉他不要搞太空发射，谁也不知道他会说些什么。

推特网友@oskararnarson：

如果你觉得人工智能危险...放心好了...绝对比你想得还要糟。

推特网友@fozberry1：

呵呵，气候变化问题也很严峻啊，怎么没见企业或者政府重视起来采取行动呢。

推特网友@DeependraMSinha：

正确的警告...人类已经为研发原子弹及相关活动付出了沉重代价...人工智能最好不要重蹈覆辙...

推特网友@mungosmummy：

我们要让这些签署联名信的人首先而不是最后坐在谈判桌前。否则这将会让那些不负责的人（我就是在说传奇商人马斯克）代替你们去制定规则。

微博网友@轧机自动化：汽车出来时马车也是反对的。

微博网友@现纹 ：为什么是“六个月”？

微博网友@耳鼻喉科包伟晶：多年以后未来人类读历史，可能会将今年当作AI元年，或将我们身处的这个时代看作是人工智能新纪元。 那么，作为这一场巨大变革的亲历者，作为这一项能够颠覆人类世界运行规则的重大技术的见证人，我真有幸。

微博网友@吃士力架的静流：这很有必要，到不是说AI会反叛或是怎么样，而是说如果初期不靠谱的AI污染了数据源，那么以后就很难再去利用网络上的数据去训练了。

微博网友@md2_：真相：OpenAI是马斯克联合PayPal时代的几个哥们建立的，2018年马斯克想踢掉哥们自己上位，被拒，马斯克撤资退出。微软的印度CEO接盘，投资10亿美元并把当时世界第5的超级计算机交给OpenAI，终于铸就了GPT4的奇迹。你们猜猜马斯克为什么现在跳出来反对？

微博网友@再不疯狂待何时201206：早就该制止与监督了。

微博网友@长剑书生：他的星链为什么不停一停？

微博网友@看心情不看黄历：非常有必要，这玩意最大的作用就是污染数据库，颠覆人类几年前的文明，大概十年后，培养出我们都无法沟通的新人类。

微博网友@松如_：核弹是1945年在日本爆炸过之后，1968年才出现的核不扩散协议。

微博网友@eXtrA_章：这东西可以预见的是，比核弹还要厉害，那么就不会有人主动停止，因为信不过其他人。

微博网友@周末上不了发条：翻译一下这封信：你们不许跑了，等我追上了再说。

微博网友@希雬：然后你就能比别人领先六个月，或者追赶六个月？怎么可能有公司同意。

【英文短语】Get woke: 醒醒吧

Means you’re knowledgeable, aware, and “with it.”

意思是保持头脑清醒，了解时事。

例句：If you think AI is right in everything, you need to get woke.

翻译：如果你觉得人工智能不会犯错，那你真是要清醒清醒了。

综合：澎湃新闻、中新网、海外网等报道

本期责编：陈晓宇

编译：陈晓宇、牛娇娜

象象评论区

欢迎你的加入

柴环侄1621反叛的鲁鲁修 -
安宣政17078708879 ______ 最后的72秒?是7秒吧..... 那个露车夫脸是鲁鲁的结局已被证实是假的.不过在官方小说的结局应该很合你意吧: 道道阳光从空中倾注而下,其本身就像生命的赞歌一般.在绿色的丘陵间延伸着一条蜿蜒曲折的小路.上面并没有铺设水泥,只由...

柴环侄1621零落飘摇之主人的男人们求全文 -
安宣政17078708879 ______ 清明前夕,春雨绵绵,什么都充斥着生机,什么都安静地享受着洗涤. 那条通往遥城的近郊小道上,一辆外表看来华丽嚣张的马车不疾不徐地行驶着,内行人一看就会惊心,那拉车的竟是千金难求的汗血宝马,抬头傲气的前行,彰显它主人的...

柴环侄1621一篇写兵马俑的三年级作文
安宣政17078708879 ______ 篇一:参观秦始皇兵马俑8月18日,我和爸爸妈妈一起去秦始皇兵马俑博物馆参观,它位于陕西省临潼县.我们先参观了一号俑坑,里面的兵马俑都是考古学家把兵马俑的碎片一块一块拼成的,除了跪射俑的发髻向左边,其余俑的发髻都是朝右...

柴环侄1621鲁鲁最后死了...CC想要的得到了吗(鲁鲁死了,CC怎么办)?
安宣政17078708879 ______ CC想要的一个可以陪她为她驱除孤独的人,鲁鲁没死,他可以给CC温柔和温暖 有视频是官方内部的.哪天有时间发给你.

柴环侄1621以形传神的意思?描写人物时,如何做到以形传神? -
安宣政17078708879 ______ 一要抓住人物特征,以形传神要想把人物写活,就要抓住人物的特征.二要对人物内心世界进行细腻的描写,写其怎么想怎么感觉.三要注意描写好人物的行动一系列的动作描写可使人物生动活泼,富有立体感.手机打字很累的,给好评吧.

柴环侄1621关于汽车博物馆的作文提纲 -
安宣政17078708879 ______ 今天上午,我们学校组织全体师生去河南博物馆参观.汽车开到博物馆门前,首先映入眼帘的是一个雄伟的漏斗型的建筑物,在它的正中央还挂着一面大钟,听讲解员阿姨告诉我,原来它的结构是取九鼎定中原之寓意,真是充分体现了源源流长...

柴环侄1621生态城英语语法培训招生
安宣政17078708879 ______ 在学习、工作或生活中,许多人都写过作文吧,作文是从内部言语向外部言语的过渡,即从经过压缩的简要的、自己能明白的语言,向开展的、具有规范语法结构的、能为...

柴环侄1621高中作文优美语段和评论 -
安宣政17078708879 ______ 品味人生,认识世界,要善于透过表面看内在.一朵美丽的花,必定有健康的内部结构;一个人的思想、意志,可以通过一个眼神、一次行动表现在外;一个自信的人,表面一定是面带微笑、昂首挺胸;...

柴环侄1621古代王妃进宫乘坐的马车有什么特别吗? -
安宣政17078708879 ______ 幽兰露,如啼眼,无物结同心,烟花不堪剪. 草如茵,松如盖,风为裳,水为佩.油壁车,夕相待.冷翠烛,劳光彩. 西陵下,风吹雨

柴环侄1621十个古今中外著名的建筑物及其描述 -
安宣政17078708879 ______[答案] 1.埃及金字塔. 金字塔是古代埃及国王为自己修建的陵墓.埃及的吉札金字塔被誉为古代世界七大奇迹之一.在埃及的大小金字... 全部都是由人工建成.古代埃及人如何把坎石块雕薹刻及砌成陵墓,陵墓内部的信道和陵室的布局宛如迷宫,古代埃及人是用...