財經 | 產業動態
揪團生態系,Arm攜手台灣伺服器晶片設計產業共創未來 安謀十年磨劍有成 算力「水晶球」成為轉動AI的關鍵鑰匙
「很高興回到台北!我也逛了夜市,但相比旁邊這位CEO讓大家搶著要簽名,我的保鑣甚至睡著了」全球矽智財領導廠商安謀(Arm)的執行長哈斯(Rene Haas)在COMPUTEX 2024的演講上,放上一張把自己P進夜市的照片,風趣地說。
當生成式AI從高深的科技命題,成為人人追捧的話題,當IC設計產業巨頭輝達標誌性的形象、頻頻躍上新聞版面,哈斯享受「清閒」的對比,適切地反映了Arm鮮為人知的江湖地位,事實上,Arm的「運算架構」驅動了我們使用的許多產品,幾乎已經成為提供人們生活「算力」的基礎。
七成人口使用基於Arm技術的產品
Arm雖然是台灣人較為陌生的企業,但作為矽智財架構的領導者與創新者,每年大約有300億台的電子裝置,倚靠以Arm為底層架構的晶片,目前全世界有超過七成的人口,每天使用基於Arm架構處理器的產品。
在行動裝置快速成長的時代,Arm向IC設計公司提供設計晶片的指令集IP,像提供給建築師蓋房子的結構藍圖,設計公司只需要專心思考房間該有哪些功能、哪些特色,能大幅縮短開發時間。這樣的授權模式,在半導體產業中,提供了具有利基的商業可能,也獲得市場上近乎絕對的優勢。
隨著手機消費市場趨於平穩,Arm也將產品延伸向筆電、汽車、5G基地台、雲端伺服器、高效能運算、超級運算與資料中心的應用市場,然而隔行如隔山,從手機「轉行」到資料中心,效能與功耗該怎麼取捨?以Intel為首的x86架構過去主宰市場多年。看似穩固的伺服器供應鏈,隨著全球瘋AI,正默默地發生變革。
調研機構TrendForce估計,早在2021年,Arm架構處理器已達亞馬遜旗下雲端服務提供商AWS整體伺服器建置的15%,預估2025年Arm架構在資料中心這個類別的滲透率更將達到22%。
讓各家雲端服務供應商、伺服器客戶從對手陣營倒戈至Arm的終極武器,是Arm如今已邁入到第三代的中央處理器(CPU)平台「Arm Neoverse」。
Arm Neoverse自過去消費性產品採用的Cortex核心框架,演進為專為資料中心、通訊設備的伺服器打造的客製化解決方案Arm Neoverse運算子系統(CSS),CSS包含了Neoverse 核心、CMN 網狀結構、系統 IP,以及能夠快速提供效能最佳化所需的系統管理、電源管理、軟體和開發工具,能大幅降低想進入開發伺服器晶片廠商的門檻。除了微軟已經宣布,他們使用 Neoverse CSS N2 構建的 Cobalt 100 CPU 以公開預覽的方式開放之外,另一家客戶亦表示從項目開案到產出晶片僅花了九個月。
在Arm Neoverse推出五年多後的今天, 生成式AI正站在風口,包含聯發科技、聯詠科技、瑞昱半導體與智原科技等台灣晶片設計產業大廠以及台積公司,紛紛加入「Arm全面設計 (Arm Total Design; ATD)」 陣營,在強大的生態系夥伴支持下,讓Arm Neoverse充滿推倒高牆的氣勢。
Arm 基礎設施事業部行銷副總裁Eddie Ramirez接受商周專訪,分享Arm如何以三大關鍵克服運算基礎設施所面臨的挑戰,為客戶創造價值,見證一路走來的改變。這三大關鍵包含日臻完整的CPU產品線、經營生態系的心法、以及對研發龐大且持續的投資,讓高效能低功耗的Arm Neoverse在能源日益稀缺、注重永續的時代,搶佔了先機。
三大特色構建了Arm強大的資料中心生態系
首先是Arm在產品上不斷的擴充與迭代。Ramirez回憶,過去基礎設施沒有專屬的產品線,是基於Arm架構上消費型產品發展伺服器產品,直到孫正義在2016年以軟銀集團收購Arm,確立了產品多元化的路線,成為改變的濫觴。Ramirez解釋,在資料中心的應用,講求的是長期使用與高速的運算,需要穩定性、可靠度,而且客戶更在乎有可以檢驗的成功紀錄。Ramirez坦言,Neoverse也曾面臨客戶的觀望,畢竟資料中心的投資龐大,客戶不得不謹慎小心。
五年過去,Ramirez認為Arm透過不斷的投資、不斷擴張迭代產品線,已經累積許多成功的案例。以 NVIDIA 的 Grace Hopper 超級晶片為例,它結合了 NVIDIA 的 “Hopper GPU” 和基於 Arm Neoverse V2 的 “Grace CPU” ,目前包括 AWS Graviton、Ampere Altra、Microsoft Cobalt、Google Axion和 Oracle 都已經採用 Arm Neoverse 技術來處理通用型運算,與進行基於 CPU 的 AI 推論和訓練。如今Neoverse已有V、N與E三種系列的IP,可以彈性的滿足客戶在設計伺服器CPU時在效能與能源效率上的不同考量,Arm Neoverse 正成為各雲端資料中心的實質標準。
而今隨著Arm成功掛牌上市,Arm對於以Neoverse協助企業做為其實現人工智慧的基礎,以及在Arm平台建構運算的未來之願景都更加清晰明確。
其次,Ramirez觀察,Arm深度經營生態系,有時未必能直接增加營收,但卻能讓客戶、生態系夥伴,彼此受益,共同壯大市場。如「Arm全面設計(Arm Total Design, ATD)」,在宣布後的10個月內,已經有25家夥伴宣布加入,包括ASIC設計公司、IP 供應商、電子設計自動化(EDA)工具供應商、晶圓廠與韌體開發商等業界領導企業,以加速並簡化 Neoverse CSS 架構系統的開發作業,幫助客戶快速開發出差異化的小晶片SoC。
Arm也延續了行動裝置時代,與台灣夥伴長期緊密的合作關係,著眼於為產業升級。Ramirez認為,不少台灣主打電視、多媒體裝置、通訊設備的IC設計廠商想往不斷擴大的伺服器市場發展,卻苦無人力與經驗,Neoverse CSS讓原先著重消費性電子的晶片產業能在短時間內以快速、精簡人力的方式升級。Arm也投入通用小晶片互連(UCIe)介面規格的制定,擴大開發介面的彼此融貫。
回到AI魔法發生的地方
在今年的COMPUTEX,Arm 也推出了KleidiAI 函式庫,其中包含 KleidiAI 與KleidiCV,幫助Neoverse CSS生態系中的客戶,能夠快速部署AI。Kleidi一詞在希臘文中的意思是「鑰匙」,正是象徵著藉由Arm的平台,Kleidi就能轉動通往AI世界的大門。而第三個心法,在於如何因應日益嚴峻的效能與效率問題,「Arm的優勢在於我們懂得處理的一個僅仰賴電池供電的CPU,所以設計架構上的許多細節都以能源效率為優先,」Ramirez自信地說,節能就像是寫在Arm的DNA裡。
Ramirez以Google研發,採用Arm架構的AI晶片Axion為例,Axion在全系列Google的晶片中擁有最好的能源轉換效率,比起一般的伺服器晶片,有50%的效能成長,卻同時能更節能60%。
歸納三個心法,Arm的十年長征還沒到頭,在年度的大比拚,Arm已經跨出大步。「COMPUTEX像是一個魔法發生的地方」回想去年,Ramirez還有些擔心整個產業鏈是否能從消費疲乏的陰影中走出來,如今AI已經給了答案,當大浪襲來,就像過去的每一場戰役,此次Arm透過強大的Neoverse平台與Neoverse CSS,為客戶節省時間、金錢和人力資源,使其能專注於創新,Arm期望與台灣產業攜手合作,讓AI的魔法不只照亮系統廠,亦能使未來台灣半導體晶片設計領域,也能在全球獨領風騷。