早在今年5月29日,AI芯片大廠英偉達(dá)(NVIDIA) CEO黃仁勛就在COMPUTEX 2023展前發(fā)布會(huì)上,正式發(fā)布了升級(jí)版的GH200Grace Hopper超級(jí)芯片,旨在助力開(kāi)發(fā)面向生成式AI語(yǔ)言應(yīng)用、推薦系統(tǒng)和數(shù)據(jù)分析工作負(fù)載的巨型、下一代模型。
GH200超級(jí)芯片,是將 72 核的Grace CPU、H100 GPU、96GB 的 HBM3 和 512 GB 的 LPDDR5X 集成在同一個(gè)封裝中,擁有高達(dá) 2000 億個(gè)晶體管。這種組合提供了 CPU 和 GPU 之間驚人的數(shù)據(jù)帶寬,高達(dá) 900 GB / s,為某些內(nèi)存受限的工作負(fù)載提供了巨大的優(yōu)勢(shì)。
相關(guān)文章:《AI性能突破1Eflop!英偉達(dá)DGX GH200發(fā)布:256個(gè)GH200芯片,144TB共享內(nèi)存!》
美國(guó)當(dāng)?shù)貢r(shí)間8月8日,英偉達(dá)又發(fā)布了新一代GH200 Grace Hopper(簡(jiǎn)稱“新版GH200”)平臺(tái)。但與今年5月發(fā)布的GH200不同的是,新一代GH200搭載了全球首款HBM3e內(nèi)存,內(nèi)存容量和帶寬都有顯著提高,專為加速計(jì)算和生成式AI時(shí)代而打造。
英偉達(dá)稱,新版GH200旨在處理世界上最復(fù)雜的生成式AI工作負(fù)載,涵蓋大型語(yǔ)言模型、推薦系統(tǒng)和矢量數(shù)據(jù)庫(kù),將提供多種配置。新版GH200將于2024年第二季度投產(chǎn)。

具體來(lái)說(shuō),新版GH200芯片平臺(tái)基于 72 核 Grace CPU,配備 480 GB ECC LPDDR5X 內(nèi)存以及 GH100 計(jì)算 GPU,搭配 141 GB 的 HBM3e 內(nèi)存,分為六個(gè) 24 GB 的堆棧,并使用了 6,144 位的內(nèi)存接口。雖然英偉達(dá)實(shí)際安裝了 144 GB 的內(nèi)存,但只有 141 GB 是可用的。
相比原版GH200平臺(tái),新版GH200平臺(tái)的雙芯片配置將內(nèi)存容量提高3.5倍,帶寬增加三倍,一個(gè)服務(wù)器就有144個(gè)Arm Neoverse高性能內(nèi)核、8 petaflops 的 AI 性能和282GB的最新HBM3e內(nèi)存技術(shù)。
HBM3e是全新一代的高帶寬內(nèi)存,帶寬達(dá)每秒5TB,比原版的GH200所搭載的HBM3快50%,可為新版的GH200提供總共每秒10TB的組合帶寬,使新平臺(tái)能運(yùn)行比前代大3.5倍的模型,同時(shí)通過(guò)快3倍的內(nèi)存帶寬提高性能。
據(jù)英偉達(dá)介紹,目前配備 HBM3 內(nèi)存的原版GH200Grace Hopper超級(jí)芯片平臺(tái)已經(jīng)在生產(chǎn)中,并將于下個(gè)月開(kāi)始商業(yè)銷(xiāo)售。而配備 HBM3e 內(nèi)存的新版GH200Grace Hopper超級(jí)芯片平臺(tái)現(xiàn)在正在樣品測(cè)試中,預(yù)計(jì)將于 2024 年第二季度上市。
英偉達(dá)強(qiáng)調(diào),新版GH200 Grace Hopper 使用了與原版相同的 Grace CPU 和 GH100 GPU 芯片,因此公司無(wú)需推出任何新的軟件版本或步進(jìn)。英偉達(dá)表示,原版 GH200 和升級(jí)版 GH200 將在市場(chǎng)上共存,這意味著后者將以更高的價(jià)格出售,畢竟其更先進(jìn)的內(nèi)存技術(shù)帶來(lái)的更高性能。
英偉達(dá)表示,配備 HBM3e 內(nèi)存的下一代 Grace Hopper 超級(jí)芯片平臺(tái)完全兼容英偉達(dá)的 MGX 服務(wù)器規(guī)范,并且可以與現(xiàn)有的服務(wù)器設(shè)計(jì)直接兼容。
黃仁勛說(shuō),為了滿足生成式 AI 不斷增長(zhǎng)的需求,數(shù)據(jù)中心需要有針對(duì)特殊需求的加速計(jì)算平臺(tái)。新的GH200 Grace Hopper 超級(jí)芯片平臺(tái)提供了卓越的內(nèi)存技術(shù)和帶寬,以此提高吞吐量,提升無(wú)損耗連接GPU聚合性能的能力,并且擁有可以在整個(gè)數(shù)據(jù)中心輕松部署的服務(wù)器設(shè)計(jì)。
快速創(chuàng)建生成式AI的工具包AI Workbench
除了新款GH200,英偉達(dá)周二還發(fā)布了新的統(tǒng)一工具包AI Workbench,以及對(duì)英偉達(dá)Omniverse軟件服務(wù)的重大升級(jí)。
AI Workbench為開(kāi)發(fā)者提供了統(tǒng)一且便于使用的工具包,可在個(gè)人電腦(PC)或工作站上快速創(chuàng)建、測(cè)試和微調(diào)生成式AI模型,然后將其擴(kuò)展到幾乎任何數(shù)據(jù)中心、公共云或者英偉達(dá)的DGX云。

英偉達(dá)稱,AI Workbench讓企業(yè)的AI項(xiàng)目入門(mén)不再?gòu)?fù)雜。通過(guò)在本地系統(tǒng)運(yùn)行的簡(jiǎn)化界面進(jìn)行訪問(wèn),它讓開(kāi)發(fā)者能使用自定義數(shù)據(jù)微調(diào)Hugging Face、GitHub 和 NGC 等常用存儲(chǔ)庫(kù)中的模型,然后可以在多個(gè)平臺(tái)上輕松共享模型。
借助AI Workbench,開(kāi)發(fā)者只需點(diǎn)擊幾下即可自定義和運(yùn)行生成式AI,而且他們能夠?qū)⑺斜匾钠髽I(yè)級(jí)模型、框架、軟件開(kāi)發(fā)套件和庫(kù)整合到一個(gè)統(tǒng)一的開(kāi)發(fā)者工作區(qū)中。
用黃仁勛的話來(lái)說(shuō)就是:“人人都可以做到。”
Omniverse平臺(tái)升級(jí) 通過(guò)OpenUSD軟件利用生成式AI
英偉達(dá)的升級(jí)版Omniverse平臺(tái)為開(kāi)發(fā)者和工業(yè)企業(yè)提供新的基礎(chǔ)應(yīng)用與服務(wù),以O(shè)penUSD框架和生成式AI優(yōu)化及增強(qiáng)他們的3D管道。
升級(jí)版Omniverse平臺(tái)是一個(gè)高性能3D場(chǎng)景描述技術(shù)OpenUSD的原生軟件平臺(tái),用于跨3D工具和應(yīng)用的連接、描述和模擬,能加快創(chuàng)建虛擬世界和工業(yè)數(shù)字化高級(jí)工作流程。Cesium、Convai、Move AI、SideFX Houdini 和 Wonder Dynamics現(xiàn)已通過(guò) OpenUSD 連接到 Omniverse。
新平臺(tái)的亮點(diǎn)包括更新開(kāi)發(fā)原生OpenUSD應(yīng)用及擴(kuò)展的引擎——Omniverse Kit,以及英偉達(dá)Omniverse Audio2Face基礎(chǔ)應(yīng)用和空間計(jì)算功能的更新。
Omniverse 和模擬技術(shù)副總裁 Rev Lebaredian表示,更新后的Omniverse 讓開(kāi)發(fā)人員可以通過(guò)OpenUSD利用生成式AI強(qiáng)化他們的工具,并且讓工業(yè)企業(yè)能構(gòu)建更大、更復(fù)雜的世界級(jí)模擬,作為其工業(yè)應(yīng)用的數(shù)字測(cè)試場(chǎng)。
編輯:芯智訊-浪客劍
ODM大廠華勤技術(shù)登陸主板:三年累計(jì)凈利超65億元,募資55億元!
2023美國(guó)半導(dǎo)體產(chǎn)業(yè)現(xiàn)狀:36%銷(xiāo)售額來(lái)自于中國(guó)!
張忠謀:美國(guó)公司將失去業(yè)務(wù),中國(guó)將找到反擊的方法!
立即生效!印度宣布限制PC相關(guān)產(chǎn)品進(jìn)口!
在中國(guó)市場(chǎng),Arm服務(wù)器份額已接近15%!
AMD凈利同比暴跌94%!環(huán)比暴漲119%!蘇姿豐:AI將帶來(lái)數(shù)十億美元增長(zhǎng)機(jī)會(huì)!
中國(guó)宣布對(duì)部分無(wú)人機(jī)實(shí)施出口管制!航天彩虹、大疆等企業(yè)或受影響!
主頻提升25%!俄羅斯48核CPU仍不是華為鯤鵬920對(duì)手!
顛覆行業(yè)!英飛凌推可回收、可降解PCB:能溶解于90℃熱水,碳排放量減少60%!
英特爾CEO:如果沒(méi)了中國(guó)的訂單,再建晶圓廠就沒(méi)必要了!
2022年全球CIS廠商排名:豪威第三,格科微跌出前五!
Cerebras推出全球最強(qiáng)AI超算:5400萬(wàn)個(gè)AI內(nèi)核,算力高達(dá)4 exaFLOPS!
行業(yè)交流、合作請(qǐng)加微信:icsmart01
芯智訊官方交流群:221807116
本文鏈接:http://m.rrqrq.com/showinfo-27-5064-0.html英偉達(dá)推出最強(qiáng)AI芯片:首發(fā)HMB3e,大模型運(yùn)行能力提升3.5倍!
聲明:本網(wǎng)頁(yè)內(nèi)容旨在傳播知識(shí),若有侵權(quán)等問(wèn)題請(qǐng)及時(shí)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除處理。郵件:2376512515@qq.com
上一篇: 投資100億歐元!臺(tái)積電德國(guó)建廠計(jì)劃公布:博世/英飛凌/恩智浦參股,2027年底量產(chǎn)!