博弈论最聪明的一招
如今AIGC市场一片鲜花着棉烈火烹油,不论是ChatGPT、AUTOGPT,或者国内的文心一言,市场乱烘烘你方唱罢我登场,不断登上热搜。
华西证券预测,全球AI软件市场规模将在2025年达到1260亿美元,2021年到2025年复合增长率为41.02%。
ChatGPT繁荣的背后,是堪称天文数字的算力支持。
据测算,AI训练服务器方面,单个大语言模型训练驱动AI训练服务器需求约2亿美元;AI推理服务器方面,如ChatGPT在初期便可带动推理服务器需求约45亿美元。
一时间,ChatGPT们层出不穷,而它们背后的AI服务器赛道也开始随之水涨船高。
算力决定ChatGPT
算力作为大模型的核心引擎,它的计算公式很简单:有多少枚GPU芯片就能产生多大的算力,高端GPU芯片的数量,能直接影响算力的大小。
ChatGPT所需要的算力并不是固定的,反而是逐次递增。ChatGPT越聪明,背后的代价是所需算力越来越多。
据媒体推测,GPT-3训练成本预计在500万美元/次,GPT-3模型需花费训练成本约140万美元,Google的PaLM模型需花费训练成本约1120万美元。
据微软高管透露,为ChatGPT提供算力支持的AI超级计算机,是微软在2019年投资10亿美元建造的一台大型顶尖超级计算机,配备了数万个英伟达A100 GPU,还配备了60多个数据中心总共部署了几十万个英伟达GPU辅助。
为了满足与日俱增的ChatGPT算力需求,微软宣布将推出基于英伟达最新旗舰芯片H100 GPU和英伟达Quantum-2 InfiniBand网络互连技术,推出Azure可大规模扩展的AI虚拟机系列,以显著加速AI模型的开发。
看上去,ChatGPT的背后就是满篇的英伟达、英伟达和英伟达。
英伟达
实际上,英伟达作为硬件霸主,不仅在消费级市场占据大部分市场,也是AI服务器芯片领域的头号选择。
物以稀为贵,目前英伟达的旗舰芯片H100,在一周时间涨价近7万元人民币,售价普遍高达30万元左右;次旗舰A100芯片在短短三个月多时间里,从6万元一路涨至9万元,涨幅超过50%。
不仅涨价买不到,甚至美国还禁止英伟达卖芯片。在去年8月,美国政府发布出口管制政策,禁止英伟达将A100、H100两款芯片售往中国。
为了不丢掉中国市场,又符合美国出口管制,英伟达随后推出“性能阉割版”A800、H800芯片。但这两款芯片同样被供不应求的市场一抢而空,价格也随之水涨船高。
以百度阿里腾讯为首,国内大部分互联网公司都已经宣布进军大模型。市场统计,从ChatGPT之后,中国年内即将推出的大模型数量已超10个。
如果想要达到ChatGPT的水准,至少需要3000枚A100芯片,以9万/枚的价格来算就是2.7亿人民币才能完成一个大模型部署;10个大模型就需要3万枚A100芯片,27亿人民币。
加上后期训练成本,所需要的芯片更是天文数字。但按照目前英伟达的交货时间来看,想要买到足够的芯片,可不是一件容易的事情。
恍惚间,矿卡时代又再次来临。
再次坐在风口的英伟达
在前些年虚拟货币火热的时候,作为挖矿必备的显卡提供商,英伟达几年时间大赚特赚了48亿美元。如今又靠着ChatGPT活出第二世,让历史再次重演。
面对市场需求激增,借AI浪潮翻身的英伟达很鸡贼的推出“算力租赁”服务。
3月21日,2023年GTC大会上,英伟达创始人兼首席执行官黄仁勋推出NVIDIA DGX Cloud?,可以为企业提供训练生成式AI高级模型所需的基础设施和软件。DGX Cloud每个实例配有8个H100或A100 80GB GPU,企业可以“云租赁”的形式按月租用DGX Cloud集群,价格为每实例3.7万美元/月起。
英伟达真的没有替代品吗?为什么企业宁愿选择租赁,也不选择其他GPU芯片商?
IDC数据显示,国内GPU服务器在2021年占国内服务器市场规模的比例超过88.4%,使用英伟达的产品占比超80%。
AI大模型所需要的芯片在处理信息的精细度和算力速度要求更高,在超算领域,双精度浮点计算能力FP64是进行高算力计算的硬性指标。而英伟达的H100、A100是目前唯一具备这些能力的芯片。
美国卡脖子的并不只有英伟达芯片的售卖,从技术、设备、材料都限制中国企业的研发。但在美国的重重限制下,中国企业仍然顶着压力跑出几匹黑马。
根据IDC最新发布的《中国加速计算市场(2021年下半年)跟踪报告》,2021年全年中国AI服务器市场规模达350.3亿元,同比增长68.6%。
在企业级GPU芯片领域,中国厂商壁仞科技在2022年推出“BR100”芯片、天数智芯推出了“智铠100”芯片、寒武纪推出了“思元270”芯片。
其中壁仞科技称,BR100拥有全球最高算力,峰值算力达到了市场在售旗舰产品的三倍以上,16位浮点算力达到1000T以上、8位定点算力达到2000T以上,单芯片峰值算力达到PFLOPS级别。
虽然数据良好,但缺少至关重要的处理FP64的能力,依然无法完全取代英伟达H100、A100俩兄弟。
并且,英伟达使用的CUDA平台早已成为应用最为广泛的AI开发生态系统,只支持英伟达的Tesla架构GPU,在现阶段根本无法用国产芯片取代。
虽然中国芯片厂商正在对GPU芯片领域奋起直追,但技术差距和美国卡脖子仍是关键性问题,还需要一段时间的努力。
不止AI服务器
借着大模型东风一路上扬的不止AI服务器和GPU芯片,还有储存器市场。
ChatGPT的运行条件包括训练数据、模型算法和高算力,其中高算力的底层基础设施是完成对海量数据、训练的基础。
最显而易见的特点就是ChatGPT经历数次迭代之后,参数量从1.17亿增加到1750亿,近乎两千倍的增长,也给计算存储带来极大的挑战。
AI新时代开启,预计全球数据生成、储存、处理量将呈等比级数增长,存储器将显著受益。而计算存储是ChatGPT的重要基石,随着阿里、百度等科技巨头类ChatGPT项目入局,整体计算存储市场需求将进一步快速提升。
随着AIGC持续火热,北京、上海、广州等数字经济发达地区也出台了政策推进智算中心建设。比如,北京市提出“新建一批计算型数据中心和人工智能算力中心,到2023年,培育成为人工智能算力枢纽”;上海市提出“布局建设一批具有高性能、高吞吐的人工智能算力中心,推动公共算力服务平台建设”等。
而各行各业都将面临着ChatGPT的洗礼,在迎新一轮人工智能的浪潮下,和AI相关的行业将会迎来广阔的市场空间。
而中国企业也势必会冲破美国掣肘,打破不公平的桎梏。
本文源自锌财经
","gnid":"92e61b188b423d5a2","img_data":[{"flag":2,"img":[]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"hbase","pub_time":1682335560000,"pure":"","rawurl":"http://zm.news.so.com/6e74f57b6fbb464d1c835b7ca4ba5ddb","redirect":0,"rptid":"c5abb114395a7926","rss_ext":[],"s":"t","src":"金融界","tag":[{"clk":"ktechnology_1:英伟达","k":"英伟达","u":""},{"clk":"ktechnology_1:芯片","k":"芯片","u":""},{"clk":"ktechnology_1:gpu","k":"gpu","u":""},{"clk":"ktechnology_1:美国","k":"美国","u":""}],"title":"ChatGPT背后的算力博弈,中国企业亟待打破美国桎梏
安典宝2300博弈论很难吗? -
皮伦亭15696464946 ______ 有点难,就是有点费脑子,分析清楚就不是那么难了.
安典宝2300有关博弈论的例子~ -
皮伦亭15696464946 ______ 如果我们用博弈论的眼光看《三国演义》,三国演义完全是一部记载着许多博弈案例的著作.当然,罗贯中不可能用“博弈”一词.如果我们用一词来概括《三国演义》,这个词就是“计”.计,即计策或策略也.用计,即用策略赢对方.用计...
安典宝2300介绍一下博弈论的相关知识,最好有材料
皮伦亭15696464946 ______ 1.博弈论是指某个个人或是组织,面对一定的环境条件,在一定的规则约束下,依靠所掌握的信息,从各自选择的行为或是策略进行选择并加以实施,并从各自取得相应结果或收益的过程,在经济学上博奕论是个非常重要的理论概念. 什么是博...
安典宝2300博弈论经典问题 - - 海盗分金 -
皮伦亭15696464946 ______ 从后向前推,如果1至3号强盗都喂了鲨鱼,只剩4号和5号的话,5号一定投反对票让4号喂鲨鱼,以独吞全部金币.所以,4号惟有支持3号才能保命. 3号知道这一点,就会提出“100,0,0”的分配方案,对4号、5号一毛不拔而将全部金币归为已...
安典宝2300对博弈理论的理解 利用博弈理论解释某种社会现象 -
皮伦亭15696464946 ______[答案] 博弈论?Game Theory?又称对策论,起源于本世纪初,1994年冯·诺依曼和摩根斯坦恩合著的《博弈论和经济行为》奠定了博弈论的理论基础.20世纪50年代以来,纳什、泽尔腾、海萨尼等人使博弈论最终成熟并进入实用.近20年来,...
安典宝2300如何用博弈的理论思考生活中的问题 -
皮伦亭15696464946 ______ 什么是博弈论?古语博弈有下棋之意,顾名思义,博弈论就好比研究“下棋”的一门学问.古语有云,世事如棋.生活中每个人如同棋手,其每一个行为如同在一张看不见的棋盘上布一个子,精明慎重的棋手们相互揣摩、相互牵制,人人争赢,...
安典宝2300博弈的乐趣是什么? -
皮伦亭15696464946 ______ 博弈论是西方人创立的,英文叫做Game Theory,直译就是“游戏理论”.也有人将Game Theory翻译为“对策论”、“竞赛论”等,但都不如“博弈论”准确.按照汉语自身的涵义,“博”是用技能争胜的意思,而“弈”则指下棋等对抗性游...
安典宝2300请帮忙找一下有关博弈论的寓言或者小故事. -
皮伦亭15696464946 ______ 博弈论又被称为对策论(Games Theory),是研究具有斗争或竞争性 质现象的理论和方法,它既是现代数学的一个新分支,也是运筹学的一个重要学科.精彩的博弈论小故事:目标 一条猎狗将兔子赶出了窝,一直追赶它,追了很久仍没有捉到...
安典宝2300博弈论模型 -
皮伦亭15696464946 ______ 囚徒困境目录 经典的囚徒困境 一般形式 现实的例子 与囚徒困境相关的各事件 重复的囚徒困境 相关的博弈 注释 囚徒困境(Prison Dilemma)是博弈论的非零和博弈中具代表性的例子,反映个人最佳选择并非团体最佳选择.虽然困境本身只属...
安典宝2300博弈论的理念和方法以及解决问题的主要步骤是什么 -
皮伦亭15696464946 ______[答案] 博弈论是一个大的概念~包含的内容也不是一句两句能说清楚的~ 简单来说,两人博弈或是多人博弈,一般要先确定每个人的策略集合. 根据策略集合,确定不同策略时候每个人的收益,最后找到均衡~ 博弈论中分类也很多,比如纳什均衡 古诺模型 ...