人工智能的危害的实例
图为5月6日,人们在比利时布鲁塞尔的欧盟委员会总部大厦外休息。 新华社记者 郑焕松 摄
\n□ 本报记者 王卫
\n据德新社近日报道,欧洲议会全体会议以499票赞成、28票反对、93票弃权的压倒性优势表决通过了《人工智能法案》授权草案。这意味着,法案进入欧盟立法严格监管人工智能技术应用的最终谈判阶段,欧洲议会、欧盟委员会和成员国将进行“三方”谈判,以确定法案的最终条款。德国《商报》称,《人工智能法案》预计将在今年年底获得最终批准,不过距离完全生效可能还需数年时间。
\n做好谈判准备
\n报道称,欧洲议会决定对ChatGPT等生成式人工智能工具增加更多安全控制措施,以确保人工智能的研发和应用符合欧盟相关法律法规。
\n作为全球首部通过议会程序、专门针对人工智能的综合性立法,草案从安全、隐私、透明度以及非歧视等方面制定了详细规则。据欧洲议会网站消息,欧洲议会“为制定史上首部人工智能法案已经做好谈判准备”。按照立法议程,欧洲议会将就这一授权草案与欧盟委员会和成员国进行“三方”谈判,欧洲立法者希望在今年年底前就法案的最终版本达成共识。
\n今年5月,欧洲议会市场委员会和公民自由委员会通过欧盟委员会于2021年4月提出的《人工智能法案》提案的谈判授权草案。此前,欧洲议会和欧盟理事会已就草案进行多轮修订和讨论,并且在ChatGPT等生成式人工智能应用横空出世后,欧盟立法者紧急商讨了原版本草案中未涵盖的问题。欧洲议会声明,这部提案如正式获得批准,将成为全世界首部有关人工智能的法规。
\n草案将适用于在欧盟境内将人工智能系统投放市场或投入使用的实体(无论该实体是在欧盟境内还是在第三国)、在欧盟境内使用人工智能系统的实体以及在第三国使用人工智能系统,但系统的输出用于欧盟境内或对欧盟境内人员产生影响的实体。
\n风险分类监管
\n《人工智能法案》授权草案的一个突出特点是注重基于风险来制定监管制度,以平衡人工智能的创新发展与安全规范。草案将人工智能风险分为不可接受的风险、高风险、有限的风险和极小的风险四级,对应不同的监管要求。其中高风险人工智能的使用必须受到严格监管,系统提供者和使用者都要遵守数据管理、记录保存、透明度、人为监管等规定,以确保系统稳定、准确和安全。对于违反规定者,草案设定了最高3000万欧元(1欧元约合人民币7.895元)或全球年营业额6%的罚款。
\n草案严格禁止对人类安全造成不可接受风险的人工智能系统,包括部署潜意识或有目的操纵技术、利用人们弱点或用于社会评分的系统,并扩大了人工智能高风险领域的分类,将对人们健康、安全、基本权利或环境的危害考虑在内。草案还要求人工智能公司对其算法保持人为控制,提供技术文件,并为“高风险”应用建立风险管理系统,还针对ChatGPT等生成式人工智能设立专门监管制度。每个欧盟成员国都将设立一个监督机构。
\n此外,引进监管沙盒(指通过设立限制性条件和制定风险管理措施,允许企业在真实的市场环境中,以真实的个人用户与企业用户为对象测试创新产品、服务和商业模式)机制以管控风险和促进创新,在人工智能系统入市或投入使用前,对人工智能系统进行开发、测试和验证降低风险。草案还提出,这一机制同样被允许用于在现实条件下测试创新人工智能,以鼓励人工智能企业持续创新。
\n面临重要挑战
\n欧盟试图建立一个统一的人工智能法律监管框架,是全球人工智能发展进程中一个重要的标志性事例。欧盟对人工智能进行有效法规约束的探讨和尝试都将产生全球性影响,可能引发越来越多的国家尝试跟进相关法规的探索。
\n对于欧洲议会的决定,德国社民党表示支持:“人工智能的潜力和风险应得到全社会关注。”但也有反对者担心监管过度可能给欧洲人工智能公司带来更高成本和过重负担。
\n在人工智能开发方面处于领先地位的公司,某种程度上也是过去十年中面临反垄断违规风险、违反现行法律以及造成信息泄露危害的科技公司。基于此,OpenAI公司首席执行官萨姆·阿尔特曼表示,如果《人工智能法案》对AI进行过度监管,他将带领团队撤出欧洲市场。
\n专家称,欧盟推动人工智能立法,有利于维护欧盟在数字主权和科技领域的领导地位,并通过这样一部综合性立法抢占全球人工智能监管先机。但其本身具有局限性。它采用的是横向立法,并非针对特定人工智能应用领域,而是试图把所有人工智能都纳入监管范围,在执行层面将面临大量的解释问题。
\n有声音进一步指出,欧盟并未就人工智能技术可能给人类带来什么样的影响形成共识。从辩证的角度看,人工智能既能造福和服务人类,但如若用之不善,也会给人类带来威胁或伤害,如何平衡创新和约束是欧盟立法机构面临的一个非常重要的挑战。此外,统一的法律框架并未涉及具体法律规范,实际的执行效果可能“大打折扣”。
\n国际社会认为,当前,人工智能技术发展仍处在探索期。欧盟此时制定《人工智能法案》,释放出欧盟正在强化其在数字领域内建规立制的强烈信号。如何更好地平衡与衔接技术创新和制度创新,还需在实践中不断修正。
","gnid":"96ab4cfb94dd7891c","img_data":[{"flag":2,"img":[{"desc":"","height":"348","title":"","url":"https://p0.ssl.img.360kuai.com/t017e7b395c1a6de499.jpg","width":"330"}]}],"original":0,"pat":"art_src_1,fts0,sts0","powerby":"hbase","pub_time":1688337582000,"pure":"","rawurl":"http://zm.news.so.com/fc357522660a850feaad880a0725cc84","redirect":0,"rptid":"75a60cecb3999ca1","rss_ext":[],"s":"t","src":"中国青年网","tag":[{"clk":"ktechnology_1:人工智能技术","k":"人工智能技术","u":""},{"clk":"ktechnology_1:人工智能","k":"人工智能","u":""},{"clk":"ktechnology_1:欧盟","k":"欧盟","u":""}],"title":"抢占全球人工智能监管先机 欧盟《人工智能法案》进入最终谈判阶段
鬱泡文1194人工智能对工匠精神的发扬有何负面影响 -
冀盾侍18363631417 ______ 工匠精神与人工智能不悖.人工智能的负面问题主要在于专业匠人的技艺需要个体的创造性,而人工智能则需要多少次匠人多少人的练习才可能达到那种水平,理论上可以突破,现实中突破难度大.
鬱泡文1194随着人工智能的发展 对人类生活有哪些影响 -
冀盾侍18363631417 ______ 人类生活,总结出来无非就是就业问题与科技发展. 就业问题:这个的话,虽然再一定程度上替换掉了一些基础的职业,但也会增加相应的职业,不一定会随之减少岗位的. 科技的发展:人工智能的来临给我们生活带来了很多的便利,也推动了科技技术的发展.
鬱泡文1194人工智能会导致大量失业,你怕吗 -
冀盾侍18363631417 ______ 目前,我们很多货真价实的人类,对AI有一个经典的威胁论认识,那就是人工智能给我们带来的危险,除了替代人类毁灭人类外,就是造成大量失业.而最近的一次年会演讲中,让人工智能导致大量失业的恐慌论又一次甚嚣尘上. 看得出,我们...
鬱泡文1194关于信息技术给人们带来的影响的作文,要有实例的,字数不用太多 -
冀盾侍18363631417 ______ 信息技术对人类社会的影响,其主流是积极的,但一些负面影响也是客观存在的. 1.信息技术产生的积极影响.(1)对社会发展的影响.科学技术是第一生产力,如今信息技术已经成为科学技术前沿,人类社会正在从工业社会步入信息社会.随着...
鬱泡文1194盘点机器人伤人事件,人工智能真的安全吗 -
冀盾侍18363631417 ______ 人工智能的安全存在一定的隐患.但目前处于弱人工智能,没什么大隐患.GeekPwn对于这方面一直都在前端,举办了GeekPwn黑客大赛.邀请到业界人士共同探讨,括黑客天才Geohot、OpenAI人工智能科学家Ian Goodfellow和谷歌大脑研究员Alexey Kurakin、Dawn Song等等都有到场
鬱泡文1194人工智能,会毁掉人类吗 -
冀盾侍18363631417 ______ 956年,“人工智能”这一学术术语首次被提出,“人工智能”也正式成为了一门新兴学科.但在随后的几十年里,”人工智能“给我们的印象更多地是在实验室以及电影里.但在2013年前后,以谷歌(微博)、微软、Facebook为代表的科技...
鬱泡文1194人工智能对人类的威胁到底有哪些误区 -
冀盾侍18363631417 ______ 误解一:人工智能就只是为了制造能够思考的机器误解二:人工智能不会被人类的伦理道德约束误解三:人工智能将会失控
鬱泡文1194人工智能将会怎样影响我们的生活 -
冀盾侍18363631417 ______ 机器什么时候能像人一样思考、工作和学习?这是科技界研究了数十年的难题.这两年,随着苹果siri、微软小冰等应用的上线,人工智能离我们的生活越来越近.昨天,围绕人工智能相关话题,记者专访了微软亚洲研究院副院长芮勇博士. 微...
鬱泡文1194人工智能会给企业带来哪些影响 -
冀盾侍18363631417 ______ 1、智能制造:2113 人工智能引入到企业的生产制造系统,包括机器人、大数据、云制造等,能使企业实现智能制造,从而提高制造效率. 2、智能研发: 运用人工智能可以辅助企业进行科学的研发决策,使企业把握研发方向,洞悉研发风险....
鬱泡文1194人工智能将会对人类产生哪些影响 -
冀盾侍18363631417 ______ 首先思考的过程就包括了理性思考和感性思考两个部分混合而成,难道你认为人工智能具有人类这样强大的感性思考吗?第二,就是感性思考会在思考过程中扰乱思考的目的或者过程,即使人工...