零售大模型“干中學”，攀爬數字化珠峰
文/侯煜編輯/cc來源/華爾街科技眼對于絕大多數登山愛好者而言，攀爬珠穆朗瑪峰可謂終極目標。攀登珠峰的商業路線有兩條，一是尼泊爾境內的南坡路線，一是中國境內的北坡路線。相
Nvidia副總裁兼 HPC 驅動 DGX 系統總經理出面澄清了該公司 GPU 容量問題的具體所在。博伊爾表示，問題并非來自英偉達錯誤計算需求或其制造合作伙伴臺積電的晶圓產量問題。
相反，制造足夠的 GPU 來滿足消費者和專業工作負載（由于人工智能的蓬勃發展）需求的瓶頸在于隨后的芯片封裝步驟。英偉達的 H 級 GPU 采用臺積電的 2.5D晶圓基片芯片 (CoWoS) 封裝技術，這是一種多步驟、高精度的工程步驟，其復雜性降低了可在一個芯片中組裝的 GPU 數量。給定的時間范圍。這可能會對供應產生不成比例的影響；所需 GPU 數量與可用 GPU 數量之間的差異甚至導致埃隆·馬斯克 (Elon Musk) 表示，事實證明，它們“比藥品更難獲得”。
Charlie Boyle，英偉達DGX 副總裁兼總經理說道：因此，當人們使用 GPU 短缺這個詞時，他們實際上是在談論主板上某些組件的短缺或積壓，而不是 GPU 本身。這些東西的全球制造有限……但我們預測了人們想要什么，以及世界可以建造什么。
在芯片成為可用的 GPU 之前，需要經過從芯片設計到制造的多個步驟。其一，芯片設計階段的問題可能會因設計疏忽而造成制造瓶頸，從而降低設計的良率（良率是指完全蝕刻的晶圓中可用芯片的百分比）。稀土金屬或其他材料（例如最近受到限制的鎵）的缺乏將影響長物流鏈中的其他步驟；材料污染、能源中斷和許多其他因素也會如此，正如我們多年來已經看到的那樣。
但CoWoS的瓶頸問題可能比預想的更嚴重。臺積電本身也表示，預計需要 1.5 年（以及完成額外晶圓廠和擴建現有設施）才能使封裝工藝積壓恢復正常。這可能意味著英偉達將不得不決定什么產品用什么樣的封裝技術——因為沒有足夠的時間和能力來封裝所有產品。
供應問題可能來自臺積電的封裝，但最終，英偉達通過其（根據帕特·基辛格的說法）“令人難以置信的執行力”在人工智能領域占據主導地位。就臺積電而言，它是少數擁有功能性高性能封裝技術的廠商之一，而這種技術是性能擴展的絕對要求。AI 領域肯定需要更多的競爭，比如RX 7900 XTX 等 AMD 游戲 GPU 也被認為正走向AI 數據中心。
AMD于6月13日發布可用于ChatGPT等AI模型的MI300x芯片，挑戰目前占有AI芯片市場超八成份額的英偉達。
用于生成式AI的大型語言模型需要大量的運算，因此需要很大的內存支持。AMD于6月曾演示了MI300x運行400億參數的Falcon模型，而OpenAI的GPT-3模型有1750億個參數。
AMD公司的這款MI300x芯片及其CDNA架構專為大型語言模型和其他先進的AI模型而設，可用于192GB內存，也就是說能用于更大規模的人工智能模型，相比之下，英偉達的H100芯片只能支持120GB內存。
除此以外，蘇姿豐還介紹了使用配置MI300x芯片的AMD Infinity架構平臺，用于生成式AI的推理和訓練，可在一個系統中集合八個MI300x加速器。而英偉達和谷歌（GOOG.US）也開發出類似的系統，可在一個盒中集合八個或以上的GPU用于AI應用。
目前眾多大型科技公司都在布局AI和大模型，對這類芯片的需求殷切，AMD積極加入這個市場顯然并非僅僅為了一兩個季度業績好看，而是為了更長遠的發展。
需要注意的是，對比于其較為成熟的產品，當前AI應用產品的貢獻雖增長強勁，卻占比較小，尚不足以帶來壓倒性的推動，在可預見的將來難以帶來肉眼可見的提升作用，可能要到明年或以后。
而且制造方面也需要競爭。英特爾的代工服務(IFS) 有望為高性能 GPU 游戲帶來另一位玩家；與此同時，人們還希望三星至少能夠縮小其相對于臺積電的制造技術差距，從而使其芯片具有足夠的吸引力，吸引另一家制造商參與競爭。三星在封裝方面的投資數額巨大，但業界一致認為三星在封裝技術方面落后于臺積電。三星電子需要一記 "重拳"，才能在封裝領域趕超臺積電。
臺積電于 2012 年首次引入 CoWoS 技術，此后不斷升級其封裝能力。如今，英偉達、蘋果和 AMD 的旗艦產品都離不開臺積電及其先進封裝技術的支持。這也解釋了為什么三星電子在 2022 年領先臺積電一步完成了 3nm 量產，但英偉達和蘋果等巨頭仍然希望使用臺積電的生產線。
本文鏈接：http://m.rrqrq.com/showinfo-27-1152-0.html英偉達：GPU供應問題涉及封裝而非芯片晶圓
聲明：本網頁內容旨在傳播知識，若有侵權等問題請及時與本網聯系，我們將在第一時間刪除處理。郵件：2376512515@qq.com
上一篇： 國產半導體設備，絕處逢生
Copyright ? 2016-2023 天津谷騏科技有限公司 版權所有 sitemap.xml
違法及侵權請聯系：2376512515@qq.com 津ICP備18001702號
津公網安備 12010102000574號