IDC站长站,IDC站长,IDC资讯--IDC站长站IDC站长站,IDC站长,IDC资讯--IDC站长站

不甚是什么意思解释,不甚了然是什么意思

不甚是什么意思解释,不甚了然是什么意思 “AI春晚”英伟达放大招:亮算力“杀器”、助游戏“捏人”;黄仁勋帮算账:GPU多买多省

  “AI热(rè)潮”最大赢家之一、英伟达背后的那(nà)个身(shēn)穿黑色皮衣的男人又(yòu)来了。

  前脚才交出亮眼(yǎn)业绩狂拉股价,英伟达(dá)CEO黄仁勋后脚(jiǎo)就在昨日的COMPUTEX大(dà)会(huì)上宣布,“我们已到达生成式(shì)AI引爆点(diǎn)。从(cóng)此,全(quán)世界的每个角(jiǎo)落,都会有计算需(xū)求。”

  如今(jīn)英(yīng)伟(wěi)达(dá)掌握着全球多家科技公(gōng)司“算力命脉(mài)”,而在这场大会上,黄仁勋激(jī)情(qíng)演讲2个小时(shí),甩出了多项重磅新发布,包括算力“杀器(qì)”DGX GH200超级计算机、针对游戏的ACE代工服务、MGX服务器规范(fàn)等内容。

  算(suàn)力“杀(shā)器”:DGX GH200超级计算(suàn)机+GH200超级(jí)芯片

  先看“集成了英伟达(dá)最先进加速计算和网络技(jì)术”的DGX GH200人工(gōng)智能超级计算机

  这款超算(suàn)专(zhuān)为大规模生(shēng)成式(shì)AI的负载所设(shè)计,由256块GH200超(chāo)级芯片组(zǔ)成,拥有1 exaflop超凡AI性(xìng)能、144TB内存(是英(yīng)伟达(dá)目前DGX A100系统的近500倍)、150英(yīng)里光纤、2000多个风(fēng)扇。

  DGX GH200重达40000磅(约合18143千克),堪比四(sì)只成年大(dà)象的(de)体(tǐ)重。

  预计DGX GH200将于今(jīn)年年(nián)底投入问(wèn)世,英伟达暂未公布价格,而谷歌云、Meta与(yǔ)微(wēi)软将是首批用(yòng)户

  同(tóng)时,英伟达也正在打造自家基于(yú)DGX GH200的(de)大型AI超级(jí)计(jì)算机NVIDIA Helios,以支持其(qí)研究和(hé)开发团队的工作。其中(zhōng)采用4个DGX GH200系统、1024颗(kē)Grace Hopper超(chāo)级芯片,每个都将与英(yīng)伟(wěi)达Quantum-2 InfiniBand网络连接,带宽高达400Gb/s,将于今年年底上(shàng)线(xiàn)。

  值(zhí)得一提的是,黄(huáng)仁勋透露,DGX GH200集(jí)成(chéng)的GH200 Grace Hopper超级芯片已进入全(quán)面生产

  “拉踩”CPU:成本(běn)、功耗(hào)、处理数据量不如GPU

  在本次大会上,黄(huáng)仁勋还“拉踩”了一波CPU。他(tā)从功耗、处理数据量(liàng)等方面,指出使(shǐ)用GPU胜过CPU。

  举例来说,花(huā)费1000万美元,可以建设一个有960颗(kē)CPU的数据中心,其可处理1X LMM(大语(yǔ)言模型)数据(jù)量,需要11GWh功(gōng)耗(hào);

  同(tóng)样成本下(xià),也可以建(jiàn)设一个有48个GPU的数据(jù)中(zhōng)心,其可处理44X LLM数据量,仅需要3.2GWh功耗。

  若只想处(chù)理1X LMM数据量,则只需40万(wàn)美元,便可拥(yōng)有一个搭载2个GPU、功耗仅(jǐn)0.13GWh的数据(jù)中心。

  “买越(yuè)多,省越多(The more you buy, the more you save)。”黄仁勋再次表示。

  同(tóng)时,他也(yě)列(liè)出了数据中心成本(běn)公式:数据中心(xīn)总持有成本(běn)=f[成本(芯片、系统、硬件生态系统)、吞吐量(liàng)(GPU、Algo软件、网(wǎng)络(luò)、系(xì)统软(ruǎn)件、软件生态系统)、使用率(Algo Lib, 软(ruǎn)件生态系统)、采购运营、生命周期最(zuì)佳化、电(diàn)力]

  ACE代工(gōng)服(fú)务:用(yòng)AI激活NPC生命

  游戏(xì)一直是备受关注的一大AI应用落(luò)地(dì)领域(yù)。英伟达也在大会上宣布,推出面向游戏的定制AI模型代(dài)工(gōng)服务NVIDIA Avatar Cloud Engine(ACE)

  它(tā)能赋予非(fēi)玩家(jiā)角色(NPC)更智能(néng)且不断进化的对话技能,中间件(j不甚是什么意思解释,不甚了然是什么意思iàn)、工(gōng)具和游戏(xì)开发者(zhě)可使用它来构建(jiàn)和部署定制的语音、对话和动画AI模型

  其中(zhōng)包括:英伟达(dá)NeMo,使用专有数据(jù)构建、定制(zhì)和部署(shǔ)语(yǔ)言模型;英(yīng)伟达Riva,用于自动语音识别和文(wén)本转语(yǔ)音实现实时语音(yīn)对话;英伟(wěi)达Omniverse Audio2Face,用于即时创建游戏角色表(biǎo)情动画,以匹配任何语音(yīn)轨(guǐ)道(dào)。

  开发人员可选(xuǎn)择集成整(zhěng)个(gè)NVIDIA ACE for Games解决方案,也可仅使(shǐ)用需要的(de)组件。<不甚是什么意思解释,不甚了然是什么意思/p>

  新参(cān)考工作流程:帮(bāng)助建设不甚是什么意思解释,不甚了然是什么意思(shè)数字化智能工厂

  黄仁勋表示(shì),全(quán)球电子制造商正在使用(yòng)一种全(quán)新的综合(hé)参考工(gōng)作流程推进工业数字化(huà)工作,该工作流程结(jié)合了(le)英伟达(dá)用(yòng)于生(shēng)成式AI、3D协作、仿(fǎng)真和自主机器的(de)技术(shù),包括(kuò):

  英伟达Omniverse,其连接了顶级计(jì)算机(jī)辅助设计(jì)应(yīng)用(yòng)以及生成式AI的API和前沿框架(jià);用于模拟(nǐ)和测试机(jī)器人的英伟达Isaac Sim应用(yòng)程序(xù);英伟达Metropolis视觉AI框(kuāng)架,用于自动光学检测。

  同时(shí),黄仁勋(xūn)现场展示了(le)一(yī)个完(wán)全数(shù)字化的智能(néng)工厂的演(yǎn)示。

  目(mù)前富士康工业互(hù)联网、宜鼎国际、和硕、广达(dá)和(hé)纬(wěi)创正在使用这一(yī)参考工作流(liú)程(chéng),具体用例(lì)包括(kuò)电路(lù)板质保检测点自(zì)动化(huà)、光学检(jiǎn)测自动化、建设虚拟工厂、模拟(nǐ)协作(zuò)机器人(rén)、构建及运营数字孪生等(děng)。

  MGX服务器(qì)规范:快速高效构建百余种服(fú)务器配置(zhì)

  英伟达发(fā)布NVIDIA MGX服务器(qì)规(guī)范,为系统制造商提供模块化参考(kǎo)架构,满(mǎn)足各种规模的数据中心需求(qiú)。系统制(zhì)造商(shāng)可使用它(tā)快速且经济(jì)高效地构建100多(duō)种(zhǒng)服务器配置,以适应广泛的AI、HPC及NVIDIA Omniverse应(yīng)用。

  MGX支持英伟达全(quán)系列GPU、CPU、DPU和网络适配器、各种x86、完整(zhěng)软件堆(duī)栈及Arm处理器(qì),还(hái)可集成到云和企业数据中心中。

  华硕、和(hé)硕、QCT、超微(Supermicro)等都将采用MGX构建下一代(dài)加(jiā)速计算机,可将开(kāi)发成(chéng)本削减多达(dá)3/4,并将开(kāi)发(fā)时(shí)间缩短2/3至仅需(xū)6个月

  其中,QCT和超微基于(yú)MGX的设计(jì)将于8月面(miàn)世。超(chāo)微昨日公布的ARS-221GL-NR系统将(jiāng)采(cǎi)用Grace CPU,而QCT的S74G-2U系统将采用Grace Hopper。

  推出Spectrum-X网络平台 构建超大规模生成式AI超级计(jì)算机(jī)Israel-1

  另外,黄仁(rén)勋宣布推出NVIDIA Spectrum-X网(wǎng)络平台,旨在提高基(jī)于以太网(wǎng)的(de)AI云的性能(néng)和(hé)效率。

  相比传统以太网结(jié)构,Spectrum-X可(kě)实现1.7倍的(de)整(zhěng)体(tǐ)AI性能和(hé)能效提升,并(bìng)具有(yǒu)高度通用性,可用于各(gè)种AI应用。它使用完全基于标准的以太网,并(bìng)可与基(jī)于(yú)以太网(wǎng)的堆栈(zhàn)互操作。该平(píng)台支持(chí)256个200Gb/s端口,通过单个交换(huàn)机连接,或在两层leaf-spine拓扑(pū)中提供16000个(gè)端口(kǒu),以(yǐ)支(zhī)持AI云(yún)增长和扩展,在保持性能的同时最大(dà)限度(dù)减少网络延迟。

  全球(qiú)领(lǐng)先云计算(suàn)提供商正在(zài)采用Spectrum-X平(píng)台扩展生成式(shì)AI服务(wù),而Spectrum-X、Spectrum-4交换(huàn)机、BlueField-3 DPU等(děng)已(yǐ)在戴(dài)尔、联想等系(xì)统制造商处提供(gōng)。

  此外,作(zuò)为Spectrum-X参考设计(jì)的蓝图(tú)和测试平台(tái),英伟达(dá)正构建一台(tái)超大规模生成式AI超级计算机Israel-1。这台AI超(chāo)算价(jià)值数亿(yì)美元,将采(cǎi)用(yòng)戴尔(ěr)PowerEdge XE9680服(fú)务器、英伟(wěi)达HGX H100超级(jí)计算平台、内置(zhì)BlueField-3 DPU和Spectrum-4交换机的Spectrum-X平(píng)台(tái)。

  结(jié)语(yǔ)

  “40年来,我们创(chuàng)造了PC、互联网、移动、云,现在(zài)是人(rén)工智能时代。你会创(chuàng)造什(shén)么?不管是什(shén)么,都(dōu)要像(xiàng)我们(men)一样追(zhuī)赶它。要奔(bēn)跑,不(bù)要走。要(yào)么为(wèi)了食物奔跑,要么作(zuò)为食物奔跑。”

  在5月27日的台湾大(dà)学发表了毕业(yè)典礼演讲上(shàng),黄仁勋再次(cì)强调了掌(zhǎng)握AI技术的重要性:很多人担心,AI会抢走自己(jǐ)的工作。但真正会抢(qiǎng)走你饭碗的(de),是掌(zhǎng)握了(le)AI技术的(de)人。

  他表示,从各(gè)方面来看,AI的兴盛是计(jì)算机产业的再(zài)生契机。在(zài)下个(gè)十年,我们(men)的产业将使用新型AI电脑(nǎo),取代价(jià)值(zhí)万亿美元的传统(tǒng)电脑。

  而(ér)从昨(zuó)日(rì)大会上(shàng)黄(huáng)仁勋的展示中,人工智能时代的未来轮廓(kuò)似乎已逐渐(jiàn)浮现。

未经允许不得转载:IDC站长站,IDC站长,IDC资讯--IDC站长站 不甚是什么意思解释,不甚了然是什么意思

评论

5+2=