企業實戰!當AI變吃錢怪獸,透明化2步讓帳單不爆

1.別讓AI模糊帳吃掉企業利潤!拆解Token管理2大支柱:建立用量透明儀表板、分階段驗證生產力,並提升員工AI素養。
2.如何多做一步,就用十分之一成本就完成高難度任務?靠一招就讓AI帳單月減剩五分之一?Appier與多奇數位教你把Token效益最大化。

面對AI帳單暴增,多奇數位創意技術總監黃保翕沒有將重點放在設置上限,而是透過設計用量排行榜等機制,讓整體Token費用往下降。(攝影者.陳宗怡)

「(去年以前,)我們一個月的(AI)成本大概就一千多塊美元,很少超過;今年開始,尤其從一月起,就是每個月都是double(翻倍)在起跳。」軟體公司多奇數位創意技術總監黃保翕所描述的狀況,其實也是許多企業正在面臨的挑戰。

從管理流量到建置模型,6招不浪費Token資源

(圖表製作者:何佩珊)|放大原圖

隨著企業員工對於使用AI工具越來越上手,當AI開始成為企業營運流程的一部分,隨之而來的,就是飆升的Token用量。由於每使用一個Token就要付給模型商一個對應的金額,Token支出逐漸成為企業財報上無法被忽視的成本。

...本文未結束

免費訂閱!
商周最新出刊報‧隨時掌握最新趨勢