黃仁勳推坑：你買越多，賺越多！輝達超強新品，微軟、Google、Meta排隊要

輝達又放大招了，這次直接用超級GPU GH200燃爆了市場。

5月29日的COMPUTEX大會上，輝達（Nvidia）CEO黃仁勳向全世界宣佈——我們已經到達了生成式AI的臨界點（We have now reached the Tipping Point of generative AI.）。從此，全世界的每個角落，都會有AI運算需求。

股價剛剛暴漲2000億美元的輝達，為這一刻，早已做好準備。

一開場，身著黑皮衣的黃仁勳慷慨激昂的走上舞台，「大家好！We’re back！」隨後，祭出大絕——「AI超級電腦」DGX GH200，並宣布Google Cloud、Meta和Microsoft將是全球首批獲得DGX GH200的公司。

據說，有超過3500人親臨現場，體驗這個長達2個小時的激情演講。時隔上次公開演講已經4年，闊別舞台已久的黃仁勳狂飆中文和台語。

「超級晶片」Grace Hopper GH200

這次演講中，重頭戲還是在GPU上。畢竟AI的iPhone時刻已經來臨。老黃左右手分別端了一個晶片，重磅宣布，「女士先生們，Grace Hopper，現在已經全面投產了」。

這一「超級GPU」使用NVLink-C2C晶片互連技術，將GraceCPU和高性能Hopper H100 GPU結合在一起，提供了高達900GB/s的總頻寬。目前，由GH200超級晶片加持的系統可運用在400多種系統配置，這些系統由輝達最新的CPU、 GPU和DPU架構的不同組合提供動力，包括Grace、Hopper、Ada Lovelace和BlueField。這些架構，是為了滿足生成式AI不斷成長的需求。

此外，黃仁勳還宣佈了一個更重磅的消息：256個GH200組成的超強GPU來了。

大記憶體超級電腦DGX GH200，今年上市

輝達表示，全新DGX GH200人工智慧超級電腦，是專為大規模生成式AI而設計。這台由256個Grace Hopper超級晶片組成的超級電腦，將擁超高速且節能的AI性能，以及144TB的大型共用記憶體空間（比上一代DGX A100多了近500倍）。舉個例子，在GPT-3訓練中，它能比上一代DGX H100快2.2倍。

此外，這個龐然大物還包含了150英里的光纖和2000個風扇。目前，輝達已經與3大巨頭進行合作，Google Cloud、Meta和Microsoft。

另外，輝達表示正在建造自己的大型AI超電腦Nvidia Helios，預計在今年上線。它將使用4個與Nvidia Quantum-2 InfiniBand網路串接的DGX GH200系統，以提高數據流通量，以訓練大型AI模型。

以往的數據中心都非常龐大，而且是奠基在CPU上，演算法迭代要花很長的時間，大部分演算法，也都以CPU為中心。而現在，有了Grace Hopper，只需要幾天甚至幾小時，就能完成這個過程。簡直要革命整個行業了！

黃仁勳：買越多，越省錢！

作為現在的AI領袖，一個重65磅、價值2萬美元的Nvidia H100 Tensor核心GPU，是世界上第一個有專用的Transformer Engine，也是目前全世界最昂貴的GPU。

黃仁勳表示，可以說，像這樣的產品，「你買越多，你節省越多」（You buy the more, you save the more.）。

接下來，黃仁勳提到1964年的IBM System/360，強調了CPU的重要性。黃仁勳自信的重複表示，「而60年後，我們現在有資料中心，現在，資料中心就是一個GPU。」

正如黃仁勳所說，一種新的運算模式正在被創造。

為什麼使用GPU勝過使用CPU？黃仁勳從配置上分析：花費1000萬美元的成本，你可以建置一個有960顆CPU的資料中心，但這個數據中心要11GWh的功率，處理1X LMM（大型語言模型）的資料量。

但一樣的錢，你可以建置一個配有48個GPU的數據中心，但只要3.2GWh的功率，而且可以處理44X LLM的數據量。

要知道，如此配置已經夠驚人。然而，這還不夠。為了獲得極致性能，你可以在功率不變的情況下，把GPU數量直接拉到172個。此時的算力，可以高達CPU資料中心的150倍。當然，預算也提高到3400萬美元。

此外，如果你就只是單純的想完成手頭的工作（1X LLM），老黃也幫你把成本打下來了——只需花40萬美金，就能買一個搭載2個GPU的數據中心，功耗僅0.13GWh。

台下響起一片掌聲，黃仁勳又拿出了口頭禪「The more you buy,The more you save.」，甚至重複了3遍。

這背後的策略，究竟是什麼？黃仁勳給了一個公式。

MGX：模組化伺架構

與此同時，黃仁勳還推出了Nvidia MGX，一個供系統製造商快速、低成本的構建100多個伺服器變體的平台。據說，這個模組化設計，可以降低開發成本多達3/4，並將開發時間縮短2/3，僅需要6個月。

有了MGX，科技公司可以為他們的伺服器優化加速運算的基本系統架構，然後選擇自己的GPU、DPU和CPU。MGX還可以很容易的建立企業資料中心。

除了硬體之外，MGX還得到輝達的全端軟體支持，這使開發者和企業能夠構建和加速AI、高效能運算（HPC）和其他應用程式。包括Nvidia AI Enterprise、Nvidia AI平台等軟體。它的特點是有100多個框架、預先訓練的模型和開發工具，以加速AI和資料科學，為企業的人工智慧開發和建置提供全整支持。

將AI引入游戲，即時語音聊天的NPC角色來了

這次演講的亮點，還有全新的客製化AI模型代工服務 ——Avatar Cloud Engine (ACE) for Game。

黃仁勳展示了一段demo，在一個充滿「Cyberpunk」風格的拉麵店場景，玩家按下一個按鈕，可以用自己的聲音說話，接著店主Jin會回答。

Jin是一個NPC角色，但他的回答是由生成式AI根據玩家的語音輸入即時生成的。Jin還有著逼真的臉部動畫和聲音，與玩家的語氣和背景故事相符。

這個逼真人物角色的生成，使用了一個即時人工智慧模型渲染工具Nvidia ACE。黃仁勳示，這個游戲中的角色並沒有預先設定。儘管虛擬角色的談話有點生硬，但還不算太糟。

那些沒有AI專業知識的人，將被拋棄

40年來，我們創造了PC、網際網路、行動網路、雲端，現在是人工智慧的時代。你會創造什麼？不管是什麼，都要追趕它，要嘛為食物而奔跑，要麼為了不被獵食而奔跑。

5月27日，黃仁勳在台大畢業典禮發表演說。此刻，他正受全世界矚目，瞬間變身一兆元掌門人，讓他說的話更有底氣。黃仁勳表示，每間公司和個人都應該為擁抱新思想做好準備，否則，就有失敗的危險。

（延伸閱讀：黃仁勳台大畢典演說全文》奔跑吧！不論是為了覓食而奔跑，或是不被獵食而奔跑）

他強調：敏捷的公司會利用人工智慧提高自己的地位，這樣的公司不會倒閉。很多人擔心，AI會搶走自己的工作，但真正會搶走你飯碗的，掌握了AI技術的人。

當時，他在演講中預言：從各方面來看，AI的興盛是電腦產業的再生契機。在下個十年，我們的產業將使用新型的AI電腦，取代價值上兆美元的傳統電腦。

而從29日在COMPUTEX的演講中，我們仿佛已經窺見了這種未來的雛形。

＊本文獲公眾號「新智元」（ID：AI_era）授權轉載，原文：老黃攜「超級GPU」炸場！E級AI超算性能飛升，買越多越劃算，谷歌微軟Meta搶先試用

責任編輯：倪旻勤
核稿編輯：陳瑋鴻

【更多精彩內容】
相信才能致勝！AI霸主黃仁勳
輝達讓AI、雲端、自駕車不能沒它　秘密藏在19年前的創舉
黃仁勳走過30年大起大落：你要用孩子般的好奇看世界