马车内部描写
29日,生命未来研究所(Future of Life Institute)公布一封公开信,呼吁全球所有AI实验室立即暂停训练比GPT-4更强大的AI系统至少6个月。
![](https://p0.ssl.img.360kuai.com/t01fd09b5cf816c3737.jpg)
该公开信的网页截图
截至发稿,这封信已有1125名科技领袖和研究人员签名,除了亿万富翁马斯克、“人工智能教父”的杰弗里·辛顿,和纽约大学教授加里·马库斯之外,还包括图灵奖得主约书亚·本希奥、 苹果公司联合创始人史蒂夫·沃兹尼亚克、Stability AI首席执行官埃马德·莫斯塔克等科技界领袖人物。
为什么暂停?停下来干什么?
![](https://p0.ssl.img.360kuai.com/t012d4a1bea9174d09b.jpg)
微软的AI聊天机器人Bing对这封公开信的描述(图片来源:网页截图)
对于暂停的原因,信中解释为:人工智能系统已经被证明可能对社会和人类构成深远的风险,但最近相关热潮已经“陷入了一场失控的竞赛”。
在信中,他们抛出了四个问题来揭示人工智能可能带来的风险:
- 我们是否应该让机器用宣传和谎言淹没我们的信息渠道?
- 我们是否应该让所有的工作自动化,包括那些令人满意的工作?
- 我们是否应该发展最终可能在数量上超过我们、在智能上超越我们、能够淘汰并取代我们的非人类思维?
- 我们应该冒着失去对我们文明控制的风险吗?
因此这封信呼吁,所有人工智能实验室立即暂停训练比GPT-4更强大的人工智能系统至少6个月。否则各国政府应介入并实行暂停。
在暂停期间,相关企业和科技界应共同开发和实施一套共享安全协议,并建立相关的监控机构、追踪设计和审议制度以确保安全。
AI到底有什么现实的威胁?
![](https://p0.ssl.img.360kuai.com/t01f40dc177a23bb452.jpg)
“人工智能教父”杰弗里·辛顿认为人工智能对人类构成威胁“并非不可想象”(图片来源:澎湃新闻)
这封公开信提出的四个问题可以说是逐步递进的,而其中最现实的就是第一个问题。
据中新网援引路透社报道,欧洲刑警组织(Europol)日前也认为,ChatGPT等人工智能可能会被滥用于网络钓鱼、虚假信息和网络犯罪。此外,英国政府也公布了关于建立AI监管框架的提议。
参与公开信联署的纽约大学教授加里·马库斯指出,比起担忧天网和机器人“接管世界”,应该更多思考眼前的风险。包括恐怖分子在内的犯罪分子可能对大型语言模型做什么,以及如何阻止他们。
![](https://p0.ssl.img.360kuai.com/t0145c66f17d46b3de5.jpg)
美国作家、纽约大学教授盖瑞·马库斯(资料图片)
换句话说就是,与其担心AI太聪明以至于毁灭人类,还不如担心AI太笨以至于被不法分子利用。
马库斯认为,许多普通人也曾在人类历史中制造过各种各样的灾难。所以起关键作用的不是智力,而是权力。而现在,人工智能已经被赋予了太多的权力,比如所有信息的访问权限,和生成品不受约束的传播能力,所以必须要对其施加管控。
科技公司已开始进行改进
![](https://p0.ssl.img.360kuai.com/t0114e18a7422ca25e8.jpg)
微软的AI聊天机器人Bing已经可以辨别并拒绝一些明显的错误观点(图片来源:网页截图)
对于这封公开信当中提到的问题,科技巨头们其实也早有预期。
早些时候,微软开启人工智能辅助搜索引擎Bing公开测试时,有用户发现,新版Bing在部分情况下会出现侮辱用户、撒谎等行为,甚至会试图引导用户的情绪。
对此微软很快进行了调整,优化回答的语气以及准确性;同时,官方也承认,较长时间的连续对话,很可能会导致新版Bing“翻车”。
![](https://p0.ssl.img.360kuai.com/t0163a1f79265d88433.jpg)
网友发布的微软在新版Bing中加入广告链接的截图,百度:?(图片来源:社交媒体)
但就在最近,微软已经测试在新Bing中加入广告。这种新形式的广告是无法拦截的。这也引发了人们对于商业信息可能会进一步渗透人工智能的担忧。
关于人类和AI关系的思考,从技术诞生之初就没有停过。
如今,从通过资格考试,到进行艺术“创作”,AI能做的事越来越多,朝着“智能”的方向越走越远。但同时,利用AI技术进行网络诈骗勒索、传播非法信息等犯罪行为也层出不穷。
不同于物理世界技术创新成果转化的漫长周期,AI技术突破往往会通过互联网一夜之间散播全球。在人类未能就AI伦理、监管等找到妥善解决之道前,这些讨论和担忧并不多余。
推特网友@nikola_horvath:
暂停6个月只会将问题推迟6个月。我想说,这更像是马斯克公司想利用这种延迟来搞自己的AI与ChatGPT竞争。看起来科技富豪不喜欢别人抢在他前边哦。
推特网友@IanCalv63274296:
但是我用最先进的AI做了风险评估,它告诉我说AI没有风险啊(讽刺)。
![](https://p0.ssl.img.360kuai.com/t01395a9a4742278a4f.jpg)
推特网友@realadamrsweet:
很高兴能看到像马斯克这样的技术领导者认识到先进的AI系统有潜在风险。最重要的是要进行负责任的人工智能开发,防止对社会和人类产生负面影响。
![](https://p0.ssl.img.360kuai.com/t012c89ec35295a51a7.jpg)
推特网友@yao2377:
那是因为马斯克跟不上AI发展了。假如告诉他不要搞太空发射,谁也不知道他会说些什么。
![](https://p0.ssl.img.360kuai.com/t0104f2722d02932d77.jpg)
推特网友@oskararnarson:
如果你觉得人工智能危险...放心好了...绝对比你想得还要糟。
![](https://p0.ssl.img.360kuai.com/t01d9f12896a58acf46.jpg)
推特网友@fozberry1:
呵呵,气候变化问题也很严峻啊,怎么没见企业或者政府重视起来采取行动呢。
![](https://p0.ssl.img.360kuai.com/t0159a9c6d284a92d14.jpg)
推特网友@DeependraMSinha:
正确的警告...人类已经为研发原子弹及相关活动付出了沉重代价...人工智能最好不要重蹈覆辙...
![](https://p0.ssl.img.360kuai.com/t0154aa52d564c53f71.jpg)
推特网友@mungosmummy:
我们要让这些签署联名信的人首先而不是最后坐在谈判桌前。否则这将会让那些不负责的人(我就是在说传奇商人马斯克)代替你们去制定规则。
![](https://p0.ssl.img.360kuai.com/t013c549a0e530530c7.jpg)
微博网友@轧机自动化:汽车出来时马车也是反对的。
微博网友@现纹 :为什么是“六个月”?
微博网友@耳鼻喉科包伟晶:多年以后未来人类读历史,可能会将今年当作AI元年,或将我们身处的这个时代看作是人工智能新纪元。 那么,作为这一场巨大变革的亲历者,作为这一项能够颠覆人类世界运行规则的重大技术的见证人,我真有幸。
微博网友@吃士力架的静流:这很有必要,到不是说AI会反叛或是怎么样,而是说如果初期不靠谱的AI污染了数据源,那么以后就很难再去利用网络上的数据去训练了。
微博网友@md2_:真相:OpenAI是马斯克联合PayPal时代的几个哥们建立的,2018年马斯克想踢掉哥们自己上位,被拒,马斯克撤资退出。微软的印度CEO接盘,投资10亿美元并把当时世界第5的超级计算机交给OpenAI,终于铸就了GPT4的奇迹。你们猜猜马斯克为什么现在跳出来反对?
微博网友@再不疯狂待何时201206:早就该制止与监督了。
微博网友@长剑书生:他的星链为什么不停一停?
微博网友@看心情不看黄历:非常有必要,这玩意最大的作用就是污染数据库,颠覆人类几年前的文明,大概十年后,培养出我们都无法沟通的新人类。
微博网友@松如_:核弹是1945年在日本爆炸过之后,1968年才出现的核不扩散协议。
微博网友@eXtrA_章:这东西可以预见的是,比核弹还要厉害,那么就不会有人主动停止,因为信不过其他人。
微博网友@周末上不了发条:翻译一下这封信:你们不许跑了,等我追上了再说。
微博网友@希雬:然后你就能比别人领先六个月,或者追赶六个月?怎么可能有公司同意。
【英文短语】Get woke: 醒醒吧
Means you’re knowledgeable, aware, and “with it.”
意思是保持头脑清醒,了解时事。
例句:If you think AI is right in everything, you need to get woke.
翻译:如果你觉得人工智能不会犯错,那你真是要清醒清醒了。
综合:澎湃新闻、中新网、海外网等报道
本期责编:陈晓宇
编译:陈晓宇、牛娇娜
象象评论区
欢迎你的加入
","gnid":"95e8f7221b3e4867f","img_data":[{"flag":2,"img":[{"desc":"","height":"450","title":"","url":"https://p0.ssl.img.360kuai.com/t01fd09b5cf816c3737.jpg","width":"1010"},{"desc":"","height":"377","title":"","url":"https://p0.ssl.img.360kuai.com/t012d4a1bea9174d09b.jpg","width":"988"},{"desc":"","height":"810","title":"","url":"https://p0.ssl.img.360kuai.com/t01f40dc177a23bb452.jpg","width":"1440"},{"desc":"","height":"800","title":"","url":"https://p0.ssl.img.360kuai.com/t0145c66f17d46b3de5.jpg","width":"1200"},{"desc":"","height":"320","title":"","url":"https://p0.ssl.img.360kuai.com/t0114e18a7422ca25e8.jpg","width":"942"},{"desc":"","height":"925","title":"","url":"https://p0.ssl.img.360kuai.com/t0163a1f79265d88433.jpg","width":"768"},{"desc":"","height":"212","title":"","url":"https://p0.ssl.img.360kuai.com/t01395a9a4742278a4f.jpg","width":"1182"},{"desc":"","height":"226","title":"","url":"https://p0.ssl.img.360kuai.com/t012c89ec35295a51a7.jpg","width":"1180"},{"desc":"","height":"204","title":"","url":"https://p0.ssl.img.360kuai.com/t0104f2722d02932d77.jpg","width":"1162"},{"desc":"","height":"93","title":"","url":"https://p0.ssl.img.360kuai.com/t01d9f12896a58acf46.jpg","width":"492"},{"desc":"","height":"97","title":"","url":"https://p0.ssl.img.360kuai.com/t0159a9c6d284a92d14.jpg","width":"590"},{"desc":"","height":"228","title":"","url":"https://p0.ssl.img.360kuai.com/t0154aa52d564c53f71.jpg","width":"1174"},{"desc":"","height":"232","title":"","url":"https://p0.ssl.img.360kuai.com/t013c549a0e530530c7.jpg","width":"1162"}]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"hbase","pub_time":1680148500000,"pure":"","rawurl":"http://zm.news.so.com/1802c0e5ccee76a5df2505a240e5d894","redirect":0,"rptid":"653b15c6bd1fa410","rss_ext":[],"s":"t","src":"大象新闻","tag":[{"clk":"ktechnology_1:微软","k":"微软","u":""},{"clk":"ktechnology_1:马斯克","k":"马斯克","u":""},{"clk":"ktechnology_1:人工智能","k":"人工智能","u":""},{"clk":"ktechnology_1:纽约大学","k":"纽约大学","u":""}],"title":"观天象|人类作死、人工智能反噬?马斯克等千人建议“暂停”Al半年,网友:汽车出来时马车也是反对的
柴环侄1621反叛的鲁鲁修 -
安宣政17078708879 ______ 最后的72秒?是7秒吧..... 那个露车夫脸是鲁鲁的结局已被证实是假的.不过在官方小说的结局应该很合你意吧: 道道阳光从空中倾注而下,其本身就像生命的赞歌一般.在绿色的丘陵间延伸着一条蜿蜒曲折的小路.上面并没有铺设水泥,只由...
柴环侄1621零落飘摇之主人的男人们求全文 -
安宣政17078708879 ______ 清明前夕,春雨绵绵,什么都充斥着生机,什么都安静地享受着洗涤. 那条通往遥城的近郊小道上,一辆外表看来华丽嚣张的马车不疾不徐地行驶着,内行人一看就会惊心,那拉车的竟是千金难求的汗血宝马,抬头傲气的前行,彰显它主人的...
柴环侄1621一篇写兵马俑的三年级作文
安宣政17078708879 ______ 篇一:参观秦始皇兵马俑8月18日,我和爸爸妈妈一起去秦始皇兵马俑博物馆参观,它位于陕西省临潼县.我们先参观了一号俑坑,里面的兵马俑都是考古学家把兵马俑的碎片一块一块拼成的,除了跪射俑的发髻向左边,其余俑的发髻都是朝右...
柴环侄1621鲁鲁最后死了...CC想要的得到了吗(鲁鲁死了,CC怎么办)?
安宣政17078708879 ______ CC想要的一个可以陪她为她驱除孤独的人,鲁鲁没死,他可以给CC温柔和温暖 有视频是官方内部的.哪天有时间发给你.
柴环侄1621以形传神的意思?描写人物时,如何做到以形传神? -
安宣政17078708879 ______ 一要抓住人物特征,以形传神要想把人物写活,就要抓住人物的特征.二要对人物内心世界进行细腻的描写,写其怎么想怎么感觉.三要注意描写好人物的行动一系列的动作描写可使人物生动活泼,富有立体感.手机打字很累的,给好评吧.
柴环侄1621关于汽车博物馆的作文提纲 -
安宣政17078708879 ______ 今天上午,我们学校组织全体师生去河南博物馆参观.汽车开到博物馆门前,首先映入眼帘的是一个雄伟的漏斗型的建筑物,在它的正中央还挂着一面大钟,听讲解员阿姨告诉我,原来它的结构是取九鼎定中原之寓意,真是充分体现了源源流长...
柴环侄1621生态城英语语法培训招生
安宣政17078708879 ______ 在学习、工作或生活中,许多人都写过作文吧,作文是从内部言语向外部言语的过渡,即从经过压缩的简要的、自己能明白的语言,向开展的、具有规范语法结构的、能为...
柴环侄1621高中作文优美语段和评论 -
安宣政17078708879 ______ 品味人生,认识世界,要善于透过表面看内在.一朵美丽的花,必定有健康的内部结构;一个人的思想、意志,可以通过一个眼神、一次行动表现在外;一个自信的人,表面一定是面带微笑、昂首挺胸;...
柴环侄1621古代王妃进宫乘坐的马车有什么特别吗? -
安宣政17078708879 ______ 幽兰露,如啼眼,无物结同心,烟花不堪剪. 草如茵,松如盖,风为裳,水为佩.油壁车,夕相待.冷翠烛,劳光彩. 西陵下,风吹雨
柴环侄1621十个古今中外著名的建筑物及其描述 -
安宣政17078708879 ______[答案] 1.埃及金字塔. 金字塔是古代埃及国王为自己修建的陵墓.埃及的吉札金字塔被誉为古代世界七大奇迹之一.在埃及的大小金字... 全部都是由人工建成.古代埃及人如何把坎石块雕薹刻及砌成陵墓,陵墓内部的信道和陵室的布局宛如迷宫,古代埃及人是用...