商周

啟動成功關鍵,隨時掌握商周.com最新資訊

提供第一手新聞解析、財經趨勢、專屬活動

已加入收藏
已取消收藏
帳號頭像 帳號選單下拉箭頭
/
熱搜內容
現正閱讀
聊1句用掉1瓶寶特瓶的水、全球耗電量將直逼荷蘭,AI成耗能巨獸
畫重點
段落筆記
新增筆記
「請稍等」英文別直接中翻英說please wait a minute!一次掌握,常用的電話對談英文
0
/500
不公開分類 公開分類
儲存
至頂箭頭
特別企劃
ESG

減碳ESG | 新商業

聊1句用掉1瓶寶特瓶的水、全球耗電量將直逼荷蘭,AI成耗能巨獸

聊1句用掉1瓶寶特瓶的水、全球耗電量將直逼荷蘭,AI成耗能巨獸
近年生成式AI掀起熱潮,從ChatGPT到影片生成模型Sora,大型軟體企業採用AI驅動服務,伴隨快速增長的用水、用電需求。 (來源:Dreamstime/典匠影像)
撰文者:陳玫伶(台達基金會低碳生活部落格寫手)
環境資訊中心 2024.03.06
摘要
  1. 近年生成式AI掀起熱潮,從ChatGPT到影片生成模型Sora,大型軟體企業採用AI驅動服務,伴隨快速增長的用水、用電需求。
  2. 大型語言模型如ChatGPT和Gemini需大量資料中心運算和水資源,才能維持運作。荷商學院學者德弗里斯預估到2027年,AI伺服器耗電量將等同於荷蘭全國能源需求量。
  3. AI耗能分為訓練和推論階段,但耗能占比尚不清楚。AI對環境衝擊大,但也有潛力解決環境挑戰,如何權衡取捨值得反思。

近年生成式AI掀起熱潮,從使用者眾多的ChatGPT,再到近期發表的影片生成模型Sora,許多大型軟體企業爭相採用AI驅動服務,伴隨而來的是快速增長的AI密集用水、用電需求,這些需要大量運算的人工智慧服務相較於傳統應用軟體的能源需求,往往更為巨量。

AI的耗能程度有多高?

AI如同變魔術般,滑鼠按兩三下、下個簡單指令就能生成一段文字,甚至是圖像、影像,這些動作雖然跟往常在搜尋欄查找資料並無二致,然而,AI的用電量卻可能比想像中更多
阿姆斯特丹自由大學(Vrije Universiteit Amsterdam,VU)商學院博士候選人德弗里斯(Alex De Vries)專門研究新興科技的能耗成本,去年他發表的分析估算,隨著人工智慧崛起,到了2027年,AI伺服器所消耗的用電量將等同於荷蘭全國的能源需求量

德弗里斯根據NVIDIA的AI晶片銷售狀況[1]等參數推估,到了2027年,運算AI所需的硬體設備需求量,每年約有850~1340億度電的能源需求,就等同於世界上部分國家一年的總用電量。

為什麼AI高耗電又高用水?

不論是OpenAI的ChatGPT或是Google的Gemini,這類廣受歡迎的大型語言模型,往往需要一整個倉庫的資料中心來運算,同時也仰賴大量的水資源來幫助機房降溫。若是涉及圖像、影像的生成,AI的耗能將會更高。

廣告-請繼續往下閱讀

AI的能源需求分成兩大部分,一個是訓練語言模型所消耗的電力,包含設定與回應行為;第二部分則是推論階段(inference phase),將訓練到一定程度的模型置入實際場景,並透過提示(prompts),讓AI生成初始回應。這兩階段都有高密集的能源需求,然而目前尚不清楚各階段的耗能占比。

「設置傳統伺服器的標準機櫃耗電量約4瓩(kW),約等同於一個家庭住宅的用電功率;然而設置一組AI伺服器機櫃的能源需求約為20倍、80瓩。」DataVita創辦人奎恩(Danny Quinn)對《英國國家廣播公司》說,一個資料中心內可能有上百或上千組的伺服器及機櫃。

ChatGPT
根據研究,與ChatGPT對話一次需消耗約500毫升的水。 (來源:OpenAI網頁截圖)

加州大學河濱分校報告指出,與ChatGPT對話一次需消耗約500毫升的水,相當於一瓶寶特瓶。而ChatGPT每月有近15億用戶,用水量可想而知。微軟永續報告書中揭露,其用水量在2021至2022年增長至640萬立方公尺、增加了約34%,相當於2500個奧運規格泳池的大小。

廣告-請繼續往下閱讀

科技兩面刃 生成式AI的缺點如何克服?

隨著科技日新月異,未來AI無疑會如雨後春筍般增長,隨之而來是需謹慎看待的環境衝擊。儘管耗能需求超級高,AI對解決環境挑戰仍潛力無窮。例如,AI可以預測極端氣候,改善工業製程減少碳排放,而在Google和美國航空公司合作的計畫中,飛行員可透過AI找出最適合的飛行高度和路徑,減少50%會造成全球暖化的飛機雲。

人工智慧新創公司Hugging Face的研究員盧奇奧尼(Sasha Luccioni)表示,希望未來有更多公司為AI引進像能源之星(Energy Star)[2]的評比,讓消費者可以像選購節能電器一樣比較各家AI產品的能源效率

德弗里斯則認為應該回歸更根本的思考——我們真的需要AI來完成某些特定任務嗎?「AI有其侷限性,在很多應用上或許都不算最好的解決方案,我們將會浪費大量的時間和資源來記取這項教訓。」

註釋
[1]根據NVIDIA釋出的硬體銷售與能源數據預測,其在AI市場中的市占率約95%。
[2]能源之星(Energy Star),是一項由美國政府所主導,主要針對消費性電子產品的能源節約計劃。能源之星計劃於1992年由美國環保署(EPA)所啟動,目的是為了降低能源消耗及減少發電廠所排放的溫室效應氣體。此計劃並不具強迫性,自發配合此計劃的廠商,就可以在其合格產品上貼上能源之星的標籤。

參考資料:紐約時報BBCEuronewsScientific AmericanThe Verge聯合新聞網低碳生活部落格
*本文轉載自《低碳生活部落格》,內容由台達電子文教基金會及台灣環境資訊協會共同企劃。原文為:生成式AI浪潮興起:AI有多耗電、耗水?

責任編輯:張薰云

下滑箭頭 下滑載入更多報導 下滑箭頭
ChatGPT 耗能 能源效率 生成式AI 環境衝擊
環境資訊中心
環境資訊中心
台灣環境資訊協會
展開箭頭

環境資訊中心每日報導國內外環境議題。我們希望追求人與自然的和諧,認為資訊是啟動關懷的起點,而有豐富多樣化的資訊,才有正確的判斷與決策,以醞釀有意義的行動。

※網站:http://e-info.org.tw/
※臉書:https://www.facebook.com/enc.teia/

廣告
留言討論