戴爾新一代PowerEdge讓企業更快速、更安全導入AI

2022年11月，聊天機器人ChatGPT測試版上線後，AI人工智慧為企業界帶來巨大的典範轉移。透過AI演算法，自動生成文字、圖片、音樂、影片等各種形式的生成式AI（GenAI）內容，被導入產品服務的燦爛圖景，正在由科技巨頭、新創公司、大型企業及華爾街、創投圈，不斷討論、描繪、研究與實踐。

GenAI來勢洶洶，席捲全球，要讓AI如火箭般一飛沖天，就需要投入大量資料當作燃料，從深入分析、演算中，進行機器學習、深度學習，做出明智決策的模型。然而，大家對GenAI抱有很大的期待，但同時也暴露在雲端服務的風險之中，企業在操作中所投入的機密資料，可能在他人使用過程中意外揭露或被駭客竊取利用，這也促使企業必須自建AI，創造安全的自有環境。

「AI這種新興且強大的技術，將把我們帶入又一次工業革命，這將是人類取得偉大進步的一個時代⋯⋯，我們正處在由技術引導一個巨大投資周期的開端。」戴爾科技集團創辦人暨執行長麥可戴爾（Michael Dell）強調，許多新技術都被要求投入巨資，來部署支持AI的新型技術架構，將資料與內容從邊緣（Edge）到核心（Core），再上雲端（Cloud），都能無縫且安全地轉移。

AI軍備競賽上場 GPU 加速器具關鍵地位

但是，企業要導入AI，啟動AI轉型，提升工作技能、部門功能、組織效能、雲端安全、產品服務、客戶服務，終必須先期部署？「要有資料、產業專家、資料科學家、算力！」戴爾科技集團資深技術顧問黃敏俊指出，以金融服務來講，就需要借助AI之力，進行財務分析、高頻交易、詐欺防制，因此，擁有龐大客戶及交易資料的銀行，就要有懂金融法規、洗錢防制的產業專家，協同資料科學家一起使用AI的分析與運算，打造更為便利、創新、精準、安全，以及可以減低人力成本的服務模式與商品。

「然而這些資料的分析與運算，都需使用大量算力。」黃敏俊表示，傳統AI所分析的資料，經過清洗（cleaning）、做好標記，增加了可用性與正確性，所以只要數千至數百萬筆，透過GPU進行運算分析，就能產出有價值的決策模型；而GenAI被投餵的資料，更為大量與複雜、沒有貼標，重視通用性，旨在以最少的訓練次數建立出可面對更多樣性任務，數量級別以數10億（billions）筆為單位，也因此加入更多算力更強大的圖形處理器（GPU）協同運算，才能有足夠效率完成涵蓋廣泛的資料分析訓練。不過GenAI目前表現令大家驚豔，但也有正確性與安全性等等問題需要解決。

運算功能強大 速度10倍快

戴爾科技集團因應GenAI、數據分析及大型資料庫等高運算力工作負載的需求，推出PowerEdgeAI加速系列（XE9680、XE9640、XE8640、R760xa），隨時幫助企業建置大量運算能力、加速AI轉型。

黃敏俊指出，新一代的PowerEdge擁有「專為特定目的設計」、「智能化」、「網路韌性」三大重點。以最高階的PowerEdge XE9680為例，6U氣冷散熱設計的機箱搭載輝達8組H100或A100 GPU（每個GPU之間以NVLink互連），以及基於多項AI及機器學習的全堆疊AI平台的 AI Enterprise software，可以幫助企業提高運算能力，快速取得數據分析結果，相較一般PCIe插槽式GPU伺服器，展現高達10倍* 的建模速度。

PowerEdge XE9680內置iDRAC9管理晶片、OpenManage Enterprise（OME）管理主控台為基底，能整合第三方自動化工具、系統或網路管理軟體，發展智慧維運（AIOps）管理系統。最終，PowerEdge XE9680藉由零信任原則，強化整體安全性，提供安全供應鏈、安全伺服器生命週期、晶片硬體信任根與端到端驗證啟動韌性、數據保護等關鍵機制，實踐零信任資安控管。

而除了可因應LLMs（Large Language Models）大量算力需求的 XE9680外，戴爾科技集團也針對中高階與主流入門款，分別推出相應的GPU加速伺服器機種，讓企業客戶可針對不同的應用情境找到適合的伺服器。亦都是搭載第 4 代 Intel® Xeon® 可擴充處理器，為嚴苛的工作負荷提供絕佳效能。

在中高階應用上，PowerEdge XE9640以高密集的外型2U機箱規格最大化機架運用，配備直接水冷技術，打破 AI 和 HPC 計畫的效能極限，實現高密集型的工作負載。另外一款適用於中高階應用的XE8640，內建4向GPU，氣冷式4U機箱，有效推動AI 訓練、HPC 及資料分析應用，幫助企業客戶快速取得AI成果。而作為入門款也是最有彈性的全新一代 PowerEdge R760xa，採用2U氣冷散熱設計（可選購液冷組態），在模型推理與訓練實現高性價比，亦適用於虛擬化、渲染繪圖等主流應用。

「現今各行各業，都能感受到AI帶來的效應。」黃敏俊說，互聯網絡、智慧醫療、智慧交通、智慧零售、智慧製造都是AI典型行業應用場景，而目前自駕車的車輛偵測與避撞、圖像辨識、醫療數據處理等流程，也都倚賴AI，並進一步創造產值更大的AI商機，值得企業部署算力高超的伺服器設備，在AI賽局上取得致勝機會。

*10 x Gen5 x16 PCIe slots