商周

啟動成功關鍵,隨時掌握商周.com最新資訊

提供第一手新聞解析、財經趨勢、專屬活動

已加入收藏
已取消收藏
帳號頭像 帳號選單下拉箭頭
/
熱搜內容
現正閱讀
戴爾新一代PowerEdge讓企業更快速、更安全導入AI
畫重點
段落筆記
新增筆記
「請稍等」英文別直接中翻英說please wait a minute!一次掌握,常用的電話對談英文
0
/500
不公開分類 公開分類
儲存
至頂箭頭

財經 | 產業動態

戴爾新一代PowerEdge讓企業更快速、更安全導入AI

戴爾新一代PowerEdge讓企業更快速、更安全導入AI
廣編企劃
2023.06.12

AI人工智慧快速走入產業與大眾生活中,愈來愈多的企業重視AI,大舉投入資金,建置相關系統設施,要在AI賽局中站上高位。作為全球伺服器供應商領導者的戴爾科技集團(Dell Technologies),推出新一代的PowerEdge,專為AI特定應用設計、提升效率的智慧化運行,以更為安全的網路韌性,協助企業AI轉型。

2022年11月,聊天機器人ChatGPT測試版上線後,AI人工智慧為企業界帶來巨大的典範轉移。透過AI演算法,自動生成文字、圖片、音樂、影片等各種形式的生成式AI(GenAI)內容,被導入產品服務的燦爛圖景,正在由科技巨頭、新創公司、大型企業及華爾街、創投圈,不斷討論、描繪、研究與實踐。

GenAI來勢洶洶,席捲全球,要讓AI如火箭般一飛沖天,就需要投入大量資料當作燃料,從深入分析、演算中,進行機器學習、深度學習,做出明智決策的模型。然而,大家對GenAI抱有很大的期待,但同時也暴露在雲端服務的風險之中,企業在操作中所投入的機密資料,可能在他人使用過程中意外揭露或被駭客竊取利用,這也促使企業必須自建AI,創造安全的自有環境。

「AI這種新興且強大的技術,將把我們帶入又一次工業革命,這將是人類取得偉大進步的一個時代⋯⋯,我們正處在由技術引導一個巨大投資周期的開端。」戴爾科技集團創辦人暨執行長麥可戴爾(Michael Dell)強調,許多新技術都被要求投入巨資,來部署支持AI的新型技術架構,將資料與內容從邊緣(Edge)到核心(Core),再上雲端(Cloud),都能無縫且安全地轉移。

AI軍備競賽上場 GPU 加速器具關鍵地位

但是,企業要導入AI,啟動AI轉型,提升工作技能、部門功能、組織效能、雲端安全、產品服務、客戶服務,終必須先期部署?「要有資料、產業專家、資料科學家、算力!」戴爾科技集團資深技術顧問黃敏俊指出,以金融服務來講,就需要借助AI之力,進行財務分析、高頻交易、詐欺防制,因此,擁有龐大客戶及交易資料的銀行,就要有懂金融法規、洗錢防制的產業專家,協同資料科學家一起使用AI的分析與運算,打造更為便利、創新、精準、安全,以及可以減低人力成本的服務模式與商品。

「然而這些資料的分析與運算,都需使用大量算力。」黃敏俊表示,傳統AI所分析的資料,經過清洗(cleaning)、做好標記,增加了可用性與正確性,所以只要數千至數百萬筆,透過GPU進行運算分析,就能產出有價值的決策模型;而GenAI被投餵的資料,更為大量與複雜、沒有貼標,重視通用性,旨在以最少的訓練次數建立出可面對更多樣性任務,數量級別以數10億(billions)筆為單位,也因此加入更多算力更強大的圖形處理器(GPU)協同運算,才能有足夠效率完成涵蓋廣泛的資料分析訓練。不過GenAI目前表現令大家驚豔,但也有正確性與安全性等等問題需要解決。

運算功能強大 速度10倍快

戴爾科技集團因應GenAI、數據分析及大型資料庫等高運算力工作負載的需求,推出PowerEdgeAI加速系列(XE9680、XE9640、XE8640、R760xa),隨時幫助企業建置大量運算能力、加速AI轉型。

黃敏俊指出,新一代的PowerEdge擁有「專為特定目的設計」、「智能化」、「網路韌性」三大重點。以最高階的PowerEdge XE9680為例,6U氣冷散熱設計的機箱搭載輝達8組H100或A100 GPU(每個GPU之間以NVLink互連),以及基於多項AI及機器學習的全堆疊AI平台的 AI Enterprise software,可以幫助企業提高運算能力,快速取得數據分析結果,相較一般PCIe插槽式GPU伺服器,展現高達10倍* 的建模速度。

PowerEdge XE9680內置iDRAC9管理晶片、OpenManage Enterprise(OME)管理主控台為基底,能整合第三方自動化工具、系統或網路管理軟體,發展智慧維運(AIOps)管理系統。最終,PowerEdge XE9680藉由零信任原則,強化整體安全性,提供安全供應鏈、安全伺服器生命週期、晶片硬體信任根與端到端驗證啟動韌性、數據保護等關鍵機制,實踐零信任資安控管。

而除了可因應LLMs(Large Language Models)大量算力需求的 XE9680外,戴爾科技集團也針對中高階與主流入門款,分別推出相應的GPU加速伺服器機種,讓企業客戶可針對不同的應用情境找到適合的伺服器。亦都是搭載第 4 代 Intel® Xeon® 可擴充處理器,為嚴苛的工作負荷提供絕佳效能。

在中高階應用上,PowerEdge XE9640以高密集的外型2U機箱規格最大化機架運用,配備直接水冷技術,打破 AI 和 HPC 計畫的效能極限,實現高密集型的工作負載。另外一款適用於中高階應用的XE8640,內建4向GPU,氣冷式4U機箱,有效推動AI 訓練、HPC 及資料分析應用,幫助企業客戶快速取得AI成果。而作為入門款也是最有彈性的全新一代 PowerEdge R760xa,採用2U氣冷散熱設計(可選購液冷組態),在模型推理與訓練實現高性價比,亦適用於虛擬化、渲染繪圖等主流應用。

「現今各行各業,都能感受到AI帶來的效應。」黃敏俊說,互聯網絡、智慧醫療、智慧交通、智慧零售、智慧製造都是AI典型行業應用場景,而目前自駕車的車輛偵測與避撞、圖像辨識、醫療數據處理等流程,也都倚賴AI,並進一步創造產值更大的AI商機,值得企業部署算力高超的伺服器設備,在AI賽局上取得致勝機會。

*10 x Gen5 x16 PCIe slots 

下滑箭頭 下滑載入更多報導 下滑箭頭
Dell 戴爾科技 AI PowerEdge ChatGPT
留言討論