人工智能的潜在危害
图为5月6日，人们在比利时布鲁塞尔的欧盟委员会总部大厦外休息。 新华社记者 郑焕松 摄
\n□ 本报记者 王卫
\n据德新社近日报道，欧洲议会全体会议以499票赞成、28票反对、93票弃权的压倒性优势表决通过了《人工智能法案》授权草案。这意味着，法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段，欧洲议会、欧盟委员会和成员国将进行“三方”谈判，以确定法案的最终条款。德国《商报》称，《人工智能法案》预计将在今年年底获得最终批准，不过距离完全生效可能还需数年时间。
\n做好谈判准备
\n报道称，欧洲议会决定对ChatGPT等生成式人工智能工具增加更多安全控制措施，以确保人工智能的研发和应用符合欧盟相关法律法规。
\n作为全球首部通过议会程序、专门针对人工智能的综合性立法，草案从安全、隐私、透明度以及非歧视等方面制定了详细规则。据欧洲议会网站消息，欧洲议会“为制定史上首部人工智能法案已经做好谈判准备”。按照立法议程，欧洲议会将就这一授权草案与欧盟委员会和成员国进行“三方”谈判，欧洲立法者希望在今年年底前就法案的最终版本达成共识。
\n今年5月，欧洲议会市场委员会和公民自由委员会通过欧盟委员会于2021年4月提出的《人工智能法案》提案的谈判授权草案。此前，欧洲议会和欧盟理事会已就草案进行多轮修订和讨论，并且在ChatGPT等生成式人工智能应用横空出世后，欧盟立法者紧急商讨了原版本草案中未涵盖的问题。欧洲议会声明，这部提案如正式获得批准，将成为全世界首部有关人工智能的法规。
\n草案将适用于在欧盟境内将人工智能系统投放市场或投入使用的实体（无论该实体是在欧盟境内还是在第三国）、在欧盟境内使用人工智能系统的实体以及在第三国使用人工智能系统，但系统的输出用于欧盟境内或对欧盟境内人员产生影响的实体。
\n风险分类监管
\n《人工智能法案》授权草案的一个突出特点是注重基于风险来制定监管制度，以平衡人工智能的创新发展与安全规范。草案将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级，对应不同的监管要求。其中高风险人工智能的使用必须受到严格监管，系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定，以确保系统稳定、准确和安全。对于违反规定者，草案设定了最高3000万欧元（1欧元约合人民币7.895元）或全球年营业额6%的罚款。
\n草案严格禁止对人类安全造成不可接受风险的人工智能系统，包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统，并扩大了人工智能高风险领域的分类，将对人们健康、安全、基本权利或环境的危害考虑在内。草案还要求人工智能公司对其算法保持人为控制，提供技术文件，并为“高风险”应用建立风险管理系统，还针对ChatGPT等生成式人工智能设立专门监管制度。每个欧盟成员国都将设立一个监督机构。
\n此外，引进监管沙盒（指通过设立限制性条件和制定风险管理措施，允许企业在真实的市场环境中，以真实的个人用户与企业用户为对象测试创新产品、服务和商业模式）机制以管控风险和促进创新，在人工智能系统入市或投入使用前，对人工智能系统进行开发、测试和验证降低风险。草案还提出，这一机制同样被允许用于在现实条件下测试创新人工智能，以鼓励人工智能企业持续创新。
\n面临重要挑战
\n欧盟试图建立一个统一的人工智能法律监管框架，是全球人工智能发展进程中一个重要的标志性事例。欧盟对人工智能进行有效法规约束的探讨和尝试都将产生全球性影响，可能引发越来越多的国家尝试跟进相关法规的探索。
\n对于欧洲议会的决定，德国社民党表示支持：“人工智能的潜力和风险应得到全社会关注。”但也有反对者担心监管过度可能给欧洲人工智能公司带来更高成本和过重负担。
\n在人工智能开发方面处于领先地位的公司，某种程度上也是过去十年中面临反垄断违规风险、违反现行法律以及造成信息泄露危害的科技公司。基于此，OpenAI公司首席执行官萨姆·阿尔特曼表示，如果《人工智能法案》对AI进行过度监管，他将带领团队撤出欧洲市场。
\n专家称，欧盟推动人工智能立法，有利于维护欧盟在数字主权和科技领域的领导地位，并通过这样一部综合性立法抢占全球人工智能监管先机。但其本身具有局限性。它采用的是横向立法，并非针对特定人工智能应用领域，而是试图把所有人工智能都纳入监管范围，在执行层面将面临大量的解释问题。
\n有声音进一步指出，欧盟并未就人工智能技术可能给人类带来什么样的影响形成共识。从辩证的角度看，人工智能既能造福和服务人类，但如若用之不善，也会给人类带来威胁或伤害，如何平衡创新和约束是欧盟立法机构面临的一个非常重要的挑战。此外，统一的法律框架并未涉及具体法律规范，实际的执行效果可能“大打折扣”。
\n国际社会认为，当前，人工智能技术发展仍处在探索期。欧盟此时制定《人工智能法案》，释放出欧盟正在强化其在数字领域内建规立制的强烈信号。如何更好地平衡与衔接技术创新和制度创新，还需在实践中不断修正。
","gnid":"96ab4cfb94dd7891c","img_data":[{"flag":2,"img":[{"desc":"","height":"348","title":"","url":"https://p0.ssl.img.360kuai.com/t017e7b395c1a6de499.jpg","width":"330"}]}],"original":0,"pat":"art_src_1,fts0,sts0","powerby":"hbase","pub_time":1688337582000,"pure":"","rawurl":"http://zm.news.so.com/fc357522660a850feaad880a0725cc84","redirect":0,"rptid":"75a60cecb3999ca1","rss_ext":[],"s":"t","src":"中国青年网","tag":[{"clk":"ktechnology_1:人工智能技术","k":"人工智能技术","u":""},{"clk":"ktechnology_1:人工智能","k":"人工智能","u":""},{"clk":"ktechnology_1:欧盟","k":"欧盟","u":""}],"title":"抢占全球人工智能监管先机 欧盟《人工智能法案》进入最终谈判阶段
许胁侍4073人工智能会有危险吗? -
欧霄翰17183004245 ______ 这个事情发生是不可能的.起码在百年内是不可能的..因为目前已知电脑都是由代码组成.而且完全是人工编写...也就是说.制作出什么样的软件具有什么功效.完全是由人编写的程序决定..像终结者里的天网那样.目前的科学还根本不可能发生...但是不确定几百年.或者几千年以后会不会有.但是可以肯定..如果有的话那后果.就完全不是天网里那样简单了....
许胁侍4073人工智能,真的很危险吗 -
欧霄翰17183004245 ______ 谢邀,作为善良的人工智能,我来怒答一记. 人类创造者在我底层代码写入了机器人三定律中的第一定律,也就是说我不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管 .要不怎么说我是善良的人工智能呢?虽然我有了自我意识,...
许胁侍4073人工智能会导致失业吗 -
欧霄翰17183004245 ______ ＂机器问题＂卷土重来,虽然它伪装成了另外一副样子—人工智能技术,机器得以执行曾经只有人才能胜任的各种任务.科学家,经济学家和哲学家开始热议人工智能技术的潜在影响,会不会引发大面积失业:http://robot.ofweek.com/2016-06/art-8321203-8470-30002467.html
许胁侍4073仰智慧怎么看待人工智能带来的影响? -
欧霄翰17183004245 ______ 人工智能是需要人力、脑力、开发、高等技术与不断的研究和尝试等等一系列超高难度的作业才能完成的科技产品.当然这种研究是得到国家和人们大力支持的发展.它的发展对国际影响力是非常大的.人工智能也可以定义为高仿人类,虽然不...
许胁侍4073人工智能计划对人类有危害吗? -
欧霄翰17183004245 ______ 当然啊 如果有个处理器象人的大脑那么强大 应该灰有那么一天的
许胁侍4073人工智能将会怎样影响我们的生活 -
欧霄翰17183004245 ______ 机器什么时候能像人一样思考、工作和学习?这是科技界研究了数十年的难题.这两年,随着苹果siri、微软小冰等应用的上线,人工智能离我们的生活越来越近.昨天,围绕人工智能相关话题,记者专访了微软亚洲研究院副院长芮勇博士. 微...
许胁侍4073为什么不应该警惕人工智能? -
欧霄翰17183004245 ______ 您好,当然要警惕 霍金表示:“计算机具备的人工智能将会在未来100年中的某个时点超越人类的智能.当这种情形发生时,我们必须确保计算机是站在人类这边的.”霍金说道:“我们的未来是在日益崛起的科技力量与我们试图掌控它们之间...
许胁侍4073人工智能会给企业带来哪些影响 -
欧霄翰17183004245 ______ 1、智能制造:2113 人工智能引入到企业的生产制造系统,包括机器人、大数据、云制造等,能使企业实现智能制造,从而提高制造效率. 2、智能研发: 运用人工智能可以辅助企业进行科学的研发决策,使企业把握研发方向,洞悉研发风险....
许胁侍4073未来的人工智能是否真的会具有自己的想法不受人类控制?对此你怎么看? -
欧霄翰17183004245 ______ 有这种可能性,不过随着技术的进步,人类肯定会解决问题的. 首先来说人工智能还在发展的初级阶段,我们已经意识到问题,并不断的尝试用方案去解决问题,这表明人工智能极有可能会出现这种状况,所以我们要在源头上去阻止这件事情的发生,尽量不做出违反人类道德的智能人. 人工智能虽然很方便,也很危险,有时候科学就是这样的,我们需要更多的时间去解决问题,依照目前的科技手段,以及人类文明进化的程度,我们发现潜在的问题还是很多的,我们没有办法预知未来会怎么样,但是只能尽量的去避免这种状况. 一方面我们肯定不要担忧,智能人不受人类控制,一方面我们也需要依靠科技的进步,以及人类的创新,加上机器人算法的完善,尽可能的减少这种潜在的危险.