投产比计算的例子
在人工智能领域,英伟达正展现出更庞大的布局。
高性能GPU 79%的市占率,让市场对英伟达的记忆停留在最强大的GPU供应商上,忽略了它强大的软件能力和布局。
当全世界都在为算力焦虑时,英伟达在GTC大会上给出了解决方案。
英伟达CEO黄仁勋推出了算力平台DGX Cloud,基于这个云平台,用户可以通过网页浏览器直接调用算力,就像点开百度搜索界面一样方便。而DGX超级计算机则是Open AI采用的算力引擎。
这项云服务目前已经和甲骨文达成合作,微软AWS也即将加入托管。黄仁勋表示,未来中国也可以采用这项服务,中国创业公司可以期待阿里、百度、腾讯提供的底层算力服务。
解决了算力问题,黄仁勋又给出了模型的解决方案。
面向那些没有大模型研发能力,又需要行业专属模型的公司,英伟达推出了NVIDIA AI Foundations,内置了语言模型NEMO、视觉模型PICASSO和生物学模型BIONEMO三种模型,企业可以将行业算法加入其中,生成专属于自己的大模型。
在硬件上,英伟达新推出了适合大模型需求的双 GPU产品 H100 NVL,希望更进一步为客户提供算力服务。
提供算力云平台,让高性能算力不再稀缺
算力是当下最抢手的资源。
除了少数云服务厂商和巨头,大模型企业很少有自建设算力中心的能力。
大模型具有改变各行各业的能力,自GPT 3.5以来,谷歌、百度等公司纷纷推出大模型产品,摩肩接踵的发布会日期宣示着,大模型混战已然开始。
作为Open AI背后的算力支柱,也是目前市面上性能最高、性价比最强的已量产产品,A100成为市面上最抢手的芯片。
一时之间,拥有A100芯片的数量,成为行业判断企业大模型能力的重要指标。
一位行业人士告诉36氪 ,国内某大模型公司拿到新一轮融资后,就赶紧通过私人渠道买了500块A100芯片。
面对如此紧缺的算力需求,英伟达推出了一项新的AI超级计算服务——DGX Cloud云服务。
DGX Cloud背后是DGX(AI超级计算机)的算力能力,通过这个平台,企业无需购买硬件,可以通过网页浏览的方式获取高性能算力,扩展多节点的AI训练。
DGX配有8个H100 GPU或A100 80GB Tensor Core GPU,每个节点共有640GB GPU内存。这8个模组具有很好的通信能力,能更好地传输数据。它配有Transformer引擎,可以处理类似ChatGPT的大模型。
此外,DGX还提供了NVIDIA AI Enterprise 套件,带有AI 解决方案工作流程,可以帮助企业优化框架设计和预训练模型,提高工程师的生产效率。
企业可以通过月租的方式获取算力,每月租金36999美元。可以说,DGX Cloud云平台降低了用户使用算力的门槛。
在部署方式上,DGX支持公有云、私有云和混合云的部署方式。在混合版本,客户在使用自己私有云算力的同时,接入DGX Cloud庞大的算力资源能力。英伟达的DGX官网界面已对外开放。
黄仁勋表示, NVIDIA DGX H100 AI超级计算机已全部全面投入生产,很快将面向全球企业。
目前,英伟达已经和微软Azure、谷歌云和Oracle OCI合作,向用户提供算力能力,使用户能通过浏览器就拥有英伟达DGXAI超级计算机的能力。
Oracle OCI是第一个提供英伟达DGX云的公司,微软 Azure则会从2023年第二季度开始托管,英伟达表示谷歌云也很快会加入合作,但是亚马逊云并未被提到。
在采访中,黄仁勋表示,中国也可以参与这项服务,英伟达在西方是通过和云服务商合作提供算力的,在中国也可以采取这样的方式,中国的创业企业可以期待阿里巴巴、腾讯和百度提供底层算力支持。
英伟达牌大模型
大模型能力仍然是少数技术实力极强公司的专属,大模型训练需要耗费大量时间成本和算力资源,且难度很高。
英伟达发布了另一个重要平台NVIDIA AI Foundations,为企业提供了自制大模型的工具,可以生成定制化的大语言模型(LLM)和生成式AI解决方案,让大模型不再成为难题。
在老黄看来,在某些特定领域,客户需要通过专有数据来构建自己的模型,以此满足公司安全、隐私等诉求,这些客户需要一个类似台积电一样的代工厂。
在大模型生产过程中,英伟达不仅为用户提供了一个原始模型,还有一系列引擎、接口,优化和降低企业生成模型的难度,同时会提供专家支持,帮助企业针对其自定义用例调整模型。
目前,NVIDIA AI Foundations里有语言模型NeMo、视觉模型Picasso和生物学模型 BioNeMo三种模型。
以NeMo为例,大模型训练需要大量参数,如果客户能基于NEMO等模型已有的参数和能力,再将该模型接入到专有的知识库中,就可以拥有既经验丰富,又有特定知识的大模型,让模型变得更加精准、高效,且客户后续也可以对模型进行优化和改进。
PICASSO模型可以生成图像、视频和3D素材。
一个值得关注的消息是,Adobe与英伟达正进行合作,将Photoshop、Premiere Pro 和 After Effects 等 Adobe Creative Cloud旗舰产品,进行和NVIDIA Picasso 联合开发。
Adobe的接入意味着,生成式 AI 为创造带来新可能的能力被认可。
此外,英伟达发布了面向生物学(用于药物研发)的 NVIDIA BioNeMo™云服务新模型,希望可以帮助AI医药领域的企业。
目前,NeMo 生成式 AI 云服务处于抢先体验阶段。Picasso 服务则处于非公开预览阶段,开发人员可通过相关链接申请使用这些服务。
ChatGPT专用芯片性能再升级
在硬件领域,英伟达也推出了新的产品。
黄仁勋隆重推出了一种新的双 GPU产品 H100 NVL。它加载了Transformer引擎,很适合ChatGPT 等大型 LLM。
常规显卡的数据已经无法支撑大模型的数据量需求,H100 NVL单卡显存容量为94GB,最高可提供188GB HBM3 显存。
与HGX A100相比,搭载四对H100和双NVLINK后,服务器的处理速度可以快10倍,且大模型的处理成本降低一个数量级。
此外,面向视频信息,英伟达推出了用于 AI 视频的 NVIDIA L40,能提供比 CPU 高 120 倍的 AI 视频性能,能够用于视频解码和转码功能、视频流、增强现实、生成 AI 视频等场景。
快手和Google Cloud 是L4的早期用户。
在图像生成上,英伟达推出L40,针对图形和支持 AI 的 2D、视频和 3D 图像生成进行了优化。L40 是英伟达元宇宙Omniverse的引擎,可以用来构建数据中心和运行元宇宙的程序。
在图形推荐上,英伟达推出了Grace Hopper for Recommendation Models,主要用于图形推荐模型、矢量数据库和图形神经网络。它将CPU 和 GPU做了一个连接,属于超级芯片范畴,且两类芯片之间的传输速度可以达到900 GB/s。
3月22日上午,英伟达CEO黄仁勋接受了包括36氪在内的媒体采访,以下为部分采访内容:
问题:中国有很多正在开发大型语言模型的中小型公司,担心算力紧缺问题,英伟达推出云服务后,何时会提供给中国客户,这项业务是否会和当前的云服务提供商产生竞争?
黄仁勋:中国会像西方一样参与使用这项服务。在西方,我们和一些云厂商合作来提供算力能力,他们都非常兴奋。
在中国,像阿里巴巴、腾讯、百度都是优秀的合作伙伴。我非常期待他们能用先进的系统来做人工智能计算。
对于中国的在大模型领域创业的初创公司来说,他们正投身于一场生成式人工智能革命,也可以期待阿里巴巴、腾讯、百度提供人工智能云算力。
问题:目前人工智能芯片需求很大,英伟达的供应情况如何,您怎么看待这种变化?
黄仁勋:自从ChatGPT和人工智能以来,机器视觉计算相关需求迅速增加了。训练和推理方面的需求都增加了,变化发生得很迅速,我们的供应现在还很好,正在努力为所有客户提供服务。
目前全球的人工智能基础设施和视频人工智能计算总量不足,这也是需求上涨的一个主要原因。大模型对云基础设施的需求非常高,有很多创业公司想要使用云,你可以想象到人工智能推理的需求非常大,而且增长显著。
我们正在竞赛,也希望能够跑得更快一点,有足够的供应给每个人。
问题:英伟达是一家在硬件领域的伟大公司,您怎样看硬件市场和软件市场的空间?
黄仁勋:人工智能软件是一个比硬件大得多的市场,基础设施服务市场,硬件销售机会的总额大约在10亿美元;但是,人工智能在自动化、加速等相关的产业,制造业是数亿美元的市场需求;医疗领域,药物发现,科学家实验室研发,药物研究等,又是一个数万亿美元的市场。每一个行业都远远大于硬件领域。
人工智能第一次有机会成为工程师,药物发现科学家、公司研究助理员,或者是艺术、音乐、电影行业的共同创造者,它可以成为城市建筑的合作设计师,它的增加价值不同于以往任何的软件行业,人工智能展现了一种前所未有的技术和能力。
问题:英伟达有了自己的大模型基础,未来英伟达会专注于自己大模型,还是成为一个平台,也会呈现其它玩家的大模型?
黄仁勋:我们可以先做一下分类,首先,像Deep Mind、谷歌大脑这样的优秀实验室,他们有着非常卓越的大模型研究能力,我们和他们非常紧密地合作,为他们提供算力能力,帮助他们推进工作。我们有很多的人工智能公司合作伙伴。
也有另外一类企业,他们并不希望开发人工智能模型,希望使用上述公司的大模型能力。
同时,中间还有一批用户,他们无法使用公开的模型,他们的使用领域太细分了,也许和生物学高度相关,和合成生物学相关,药物设计相关,甚至物理学相关。它自己的基础模型很可能会发生变化。在很多个领域,都可以有一些基础模型,然后客户可以用私有的数据来训练这个模型,他们来创造和运用这个模型,来执行特定公司、行业的事情。那我们就可以和他们合作。他们有领域知识,有数据,我们有人工智能知识,可以计算。
在视频中,我们提供了三个基础模型,一个是语言,一个是视觉语言,还有一个是生物学,将来我们也会有其它的模型,目的很简单,不是为了作为产品提供给客户,只是希望帮助公司树立客户。我们会继续推动模型发展。我们有6个超级计算机,可以用他们来推进大模型的开发。
问题:人工智能产业和游戏行业正在下滑,中国的电动车市场也在放缓,公司在战略层面怎么看待这种变化?
黄仁勋:这三个都是非常重要的业务,他们是完全不同的业务。但是,尽管业务不同,在核心上,计算引擎在基础和视频加速计算方面是相同的。这就是为什么,当我们提高计算机图形能力时,它有助于自动驾驶汽车,它们都有相似之处。
我认为游戏行业正在复苏,并没有放缓。人工智能去年遇到了困难,从我们的角度来看,我们一直在慢慢恢复。数据做得非常好。
我们为电动汽车行业的数据中心和汽车提供数据中心服务,我们提供人工智能来训练模型,以及Omniverse来模拟汽车,即使放缓也没关系,他们也都需要投资软件。
","gnid":"9deb88744ef9ca66d","img_data":[{"flag":2,"img":[]}],"original":0,"pat":"art_src_3,fts0,sts0","powerby":"cache","pub_time":1679475780000,"pure":"","rawurl":"http://zm.news.so.com/93990b8544ac4e1e189721c1a5656716","redirect":0,"rptid":"2f7e200c544f8fcf","rss_ext":[],"s":"t","src":"36氪新媒体","tag":[{"clk":"kdigital_1:英伟达","k":"英伟达","u":""},{"clk":"kdigital_1:黄仁勋","k":"黄仁勋","u":""},{"clk":"kdigital_1:人工智能","k":"人工智能","u":""},{"clk":"kdigital_1:gpu","k":"gpu","u":""}],"title":"对话黄仁勋| H100正全面投产,AI软件是比硬件更广阔的市场
卫辰光1523如何在表格中更好的计算投入产出比?表格中列A及列 -
樊纯滕17544563464 ______ 为了保证不出错误最好把单价和数量都计算上 =(D2*E2)/(A2*B2)
卫辰光1523如何计算证券公司营业部的投入产出比? -
樊纯滕17544563464 ______ 前期投入是营销费用外加员工工资,员工工资是固定的投入,营销费用是浮动的,开户数多并不一定能产生效益,需要客户的交易来看员工的营销效益,所以现在证券公司都把有效户和有效资产作为业绩指标!这个投入产出是没有办法计算的,投入可以算出,收益就无法估计了,因为客户被营销到证券公司,只要客户有交易,证券就有收益,而且收益是可持续性的!
卫辰光1523投入产出比越小越好? -
樊纯滕17544563464 ______ 投入产出比越小越好,指的是项目全部投资与运行寿命期内产出的工业增加值总和之比.它适用于科技项目、 技术改造项目和设备更新项目的经济效果评价指标.其值越小,表明经济效果越好. 投入产出比的计算方法: “投入产出比”中的“...
卫辰光1523增值税一般纳税人信息备案表的投入产出比如何计算 -
樊纯滕17544563464 ______ 投入产出比就是每次业务投入的所有资金资源与创造出的价值的比值!简单来说就是企业所投入资金的回报程度 公式用收益/投资*100% 投入产出比是产出/投入! 不是投入/产出!
卫辰光1523农产品预约定耗申报表中的农产品投入产出比率怎么计算 -
樊纯滕17544563464 ______ 产成品数量/原材料投入数量*100%
卫辰光1523光伏发电投入与产出比么样,有没有计算方法 -
樊纯滕17544563464 ______ 这个自己可以尝试去算,投入的话好算,花了多少钱自己清楚,至于产出一定要按整个项目周期去算,日兆光伏发电站一般来说复合投资收益率能达到17%左右.
卫辰光1523投入产出比里面的投资要算产品本身的成本么?
樊纯滕17544563464 ______ 投入产出比是指项目全部投资与寿命期内产出的工业增加值总和之比,即项目投入1个单位资金能产出多少单位资金. 投入产出比 = 投资总额 / 项目寿命期内各年增加值的总和 如果计算某产品的投入产出比, “投资总额”中应包含产品本身的成本,因为“总产出”中也包含产品本身的成本(产出=单价*数量),两者计算范围应当一致.
卫辰光1523投入产出比的市场衡量 -
樊纯滕17544563464 ______ 使用“投入产出比”的目的是为了方便而直观地表示项目的经济性和判别该项目在经济上是否可行.而动态经济效果指标已经能够实现这些目标.所以,建立二者之间的函数关系和数量关系,有利于更恰当更准确地使用投入产出比指标. 在动态...
卫辰光1523同学们,请问下财务管理262页,表8 - 8——计算分析过程中“投产新产品A和B”(视为联合单位,A和B的比例为 -
樊纯滕17544563464 ______ 给你打个形象点的比方啊,你想象产品A为茶杯,B为茶壶,假设5个茶杯和一个茶壶为一套,那茶杯10000个和茶壶2000个是不是正好2000套啊?所以销售量是2000.