首页 >>  正文

安全事件的基本概念

来源:baiyundou.net   日期:2024-08-10

金融界4月11日消息 今日午后信息安全概念走高,永信至诚涨停,新华网触及涨停,美亚柏科、人民网涨超5%,绿盟科技、电科网安、任子行等跟涨。

消息面上,国家互联网信息办公室就《生成式人工智能服务管理办法(征求意见稿)》公开征求意见。其中提到,提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。用于生成式人工智能产品的预训练、优化训练数据,应满足以下要求:符合《中华人民共和国网络安全法》等法律法规的要求;不含有侵犯知识产权的内容;数据包含个人信息的,应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形;能够保证数据的真实性、准确性、客观性、多样性;国家网信部门关于生成式人工智能服务的其他监管要求。

另据报道,拜登政府已开始研究是否需要对ChatGPT等人工智能工具进行审查。

ChatGPT数据泄露、欧洲各国对ChatGPT的监管加强、三星数据泄露等事件,进一步推动了全球对AI安全的建设,OpenAI也发布了自己关于AI安全的建设方法。

值得关注的是,3月29日,马斯克等数百名人工智能专家、科技企业家和科学家联名签署一封公开信,呼吁暂停训练与GPT-4更强的AI系统,暂停期至少6个月。公开信表示,大量研究表明,得到顶级AI实验室的认可、具有和人类竞争智能的AI系统,可能对社会和人类构成深远的风险。

近日,清华大学与蚂蚁集团签署合作协议,双方将在“下一代互联网应用安全技术”方向展开合作,聚焦智能风控、反欺诈等核心安全场景。双方将携手攻坚可信AI、安全大模型等关键技术,致力于解决AI时代的互联网安全科技难题。

中信证券研报指出,近期多国关注以ChatGPT为代表的生成式AI应用的数据安全问题。针对大模型训练、调优所使用数据的安全问题,我们认为,应结合数据采集、传输、存储等全生命周期,通过加密、数据水印等技术手段保护用户数据特别是隐私;针对大模型生成内容的可靠性、使用方式,我们认为,应对AI生成内容进行标记,同时对AI生成内容的可靠性及传播链路进行把关。推荐数据安全解决方案提供厂商、内容监管能力提供厂商、密码技术提供厂商。

安信证券计算机团队认为AI监管主要体现在三个方面:

1)对数据集获取的安全合规性:由于AI 模型需要大量数据的训练,在使用过程中也需要上传数据获取模型输出结果,因为针对企业内部 在使用AI 大模型时候上传数据的安全和保密性需求将会持续提升,利好数据安全和加密类企业的需求增长,如启明星辰、安恒信息、奇安信、深信服、安博通、信安世纪、三未信安、格尔软件等。

2)对人工智能模型的可解释性和透明性:目前的AI 大模型均是基于深度学习搭建,其中的决策机制和过程尚不透明,模型的可解释性较差,这对于AI 的应用构成了比较大的挑战。未来针对AI 模型可解释性的研究也将会持续发展,利好AI 算法类企业的突破。

3)对人工智能生成内容的识别和审核:由于AI 模型本身是否具有歧视性和偏向性尚存在争议,因此对于人工智能生成内容的识别和审核需求将会提升,包括反生成式AI 系统在内的产业将会受益,相关公司如美亚柏科等。

国信证券分析称,国内AI应用逐步扩大,数据安全和AI监管同样是重点。随着国内百度、360、阿里、华为、腾讯等互联网公司发布或者计划发布大模型,AI相关应用也会逐步起量。针对AI滥用风险,数据安全、密码、AI监管均是重要技术发展方向,重点关注安全板块标的,如启明星辰、绿盟科技、天融信、深信服、奇安信、安恒信息、亚信安全、美亚柏科、三未信安等。

天风证券表示,AI监管首先应从源头开始,从数据的托管开始(国家云)。我们认为,大模型数据安全的监管应当从源头开始加强,比如在国家统一规范下对数据进行托管,由国家云(云计算“国家队”运营)提供模型训练数据平台,保证数据的完整性、保密性,再在此基础上部署数据安全产品。例如,根据“华为中国”公众号,华为与工商银行合作搭建了基于自主昇腾AI的金融行业大模型。该机构建议关注以下几个方面,国家云:深桑达、中国电信、品高股份、中国联通、中国移动 ;数据安全:安恒信息、启明星辰、信安世纪、深信服、三未信安 ;数据要素:上海钢联、长亮科技、通行宝、京北方、中科江南、山大地纬、久远银海。

本文源自金融界

","gnid":"91f0f5a665fb1b1fc","img_data":[{"flag":2,"img":[]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"hbase","pub_time":1681190940000,"pure":"","rawurl":"http://zm.news.so.com/7285bad9ac1743c80295d936b2d4ec11","redirect":0,"rptid":"7318ee386bddff99","rss_ext":[],"s":"t","src":"金融界","tag":[{"clk":"ktechnology_1:人工智能","k":"人工智能","u":""},{"clk":"ktechnology_1:金融界","k":"金融界","u":""},{"clk":"ktechnology_1:启明星辰","k":"启明星辰","u":""},{"clk":"ktechnology_1:信息安全","k":"信息安全","u":""}],"title":"国家网信办出手!信息安全概念午后异动,AI监管是下个增量赛道?券商称关注三个方面

凌底相2357什么是食品安全事故? -
容利秦17365275383 ______ 安全食品的概念可以有广义和狭义之分,广义的安全食品是指长期正常食用不会对身体产生阶段性或持续性危害的食品,而狭义的安全食品则是指按照一定的规程生产,符合营养、卫生等各方面标准的食品.

凌底相2357安全事故与工伤事故的区别 -
容利秦17365275383 ______ 安全事故是指生产经营单位在生产经营活动(包括与生产经营有关的活动)中突然发生的,伤害人身安全和健康,或者损坏设备设施,或者造成经济损失的,导致原生产经营活动(包括与生产经营活动有关的活动)暂时中止或永远终止的意外事...

凌底相2357安全的定义
容利秦17365275383 ______ 安全隐患,是指在生产经营活动中存在的可能导致不安全事件或事故发生的物的危险状态、人的不安全行为和管理上的缺陷(如:用电,用火等,都可能存在安全隐患).从性质上分为一般安全隐患和重大安全隐患.

凌底相2357“生产安全事故”和“安全生产事故”是一个意思吗? -
容利秦17365275383 ______ 基本没什么不同,个人的说法习惯而已,不必咬文嚼字. 相对来说,以前的人比较喜欢说生产安全,现在更偏向于说安全生产了.

凌底相2357安全的定义是什么
容利秦17365275383 ______ 安全的定义:不受威胁!没有生命危险和危害损失!

凌底相2357安全的定义是什么? -
容利秦17365275383 ______ 那你参考一下以下几点吧 安全感是建立在以下几点的: 1、相互间的沟通,你们是否是很谈的来的那种,且总会经常打电话给对方,谈谈最近和今天的事情与感受呢? 2、无论做什么事情,总会时不时的都会想到对方呢? 3、你们之间交谈的时...

凌底相2357安全事故与不安全事故意思是不是一样? -
容利秦17365275383 ______ 不安全事故:主要指事故发生前已存有预见性安全隐患而发生的事故. 安全事故:一般无法预测,具有不可抗因素,事故的发生出乎预料.

(编辑:自媒体)
关于我们 | 客户服务 | 服务条款 | 联系我们 | 免责声明 | 网站地图 @ 白云都 2024