為AI而AI錯了嗎?軟體服務商91APP在過去兩年多的實戰中,雖曾因此遭遇挑戰,迄今仍認為這是推動AI發展,必要的一步。
ChatGPT問世一年內,該公司就開發出自家的零售AI模型,而該公司開發團隊採用AI比率,也在過去兩年多來,從一成拉升到幾乎全員使用。
效率變差,仍要全員動起來
看似在AI大有進展,該公司產品長李昆謀卻形容,過去這段時間經常在瞎忙。而且他們其實是在明知前方有洞的情況下,還主動跳下去。
二○二二年底,ChatGPT問世,「我們在(二○二三年)年初就把年度計畫整個翻盤。」李昆謀坦言,說是要重擬,其實根本不知道該怎麼做。唯一確定的方向,就是要讓所有人動起來,全力去探索AI的可能性。
「不怕你犯錯,只怕你不用」就是該公司高層展現的態度。
於是,曾有研發人員刻意用AI來寫自己不懂的程式語言,結果因為不熟悉,同樣的作業,硬是耗費了更久的時間;他們也曾興沖沖要開發AI對話式商務機器人,資源都投入了,卻中途喊卡。
李昆謀表示,選錯題目是這段AI發展歷程中,經常會遇到的問題,包括近期內部有團隊開始挑戰全AI自動化開發,在他看來也是一個錯的選題,他卻沒有出手阻止。
大膽放手,成功帶起團隊的衝勁,但接續要面對的考驗卻不少。一個經常陷入的窘境是,你以為AI可以提升生產力,實際導入卻發現效率更差。
李昆謀拆解其中原因,初期團隊因為要先拉出部分成員做AI探索,人力減少,效率自然受影響;接著當要開始將研究成果實際導入工作流程,等於改變既有工作習慣,磨合過程又會出現一波生產力下降,幅度最大可達八成。
在這種時候,「AI拖慢我的速度」「是不是在為AI而AI」等各種懷疑的聲音就會浮現,這正是導入AI可能經歷的死亡幽谷。
這段痛苦的歷程,如果沒有領導者的堅定力挺,就不會有後面生產力拉升上看一三○%的機會。
但挑戰還沒結束,因為當你認為找到AI的使用方法,於是定下標準化作業流程,可能又會踏入下一個陷阱,「因為其他團隊還在衝。」李昆謀認為,AI還在快速進化,貿然停下是危險的。
然而,隨著團隊中使用AI工具的人員比例和用量提高,整體花費也會拉升。若持續鼓勵所有人毫不設限去探索,在先求有、再求好的心態下,成本稍一不注意就可能很驚人。
「不去嘗試的風險最高!」
曾經有工程師想透過提示詞的做法,讓AI解決過往需要手動寫程式的工作,但如91APP首席架構師吳剛志在生成式AI年會上的分享,個人使用AI的成本有限,但放進產品裡,如果客戶一年使用一百萬次,成本就要乘上一百萬倍。「這時你還要花這麼多token(AI用量計價基本單位)處理你寫程式就能解決的事情嗎?」他問。
進入這個階段,鼓勵大家為AI而AI就可能會變成一件很危險的事,需要適時踩煞車。
即使如此,他們仍認為採取積極手段推動組織AI發展是必要的。特別對於站在AI海嘯第一排的軟體業,更是如此。
「這種題目我們自己的看法是,要先考慮機會而不是先考慮風險,因為你不去嘗試的風險才是最高的。」他說。
當然,他們不是全然沒有防護措施。從最小單位發動探索,就是他們的防火牆。
最初他們的態度,就是放手讓每個人先想辦法用AI幫助自己;再往上一層,91APP開發部門內的二十多個小團隊,都被賦予高自主性,如甲團隊採取的做法,乙團隊不必然跟進;加上大多是以小單位先做概念驗證的方式推進,如此,就不易發生團隊整體效率一起下降,或選題錯誤就導致全盤損傷的情況。
「不要一次展開,一次展開就死了。」李昆謀提醒。
如果用一句話總結,該公司過去兩年多來在做的事情就是:「用AI開發AI產品」。在這段文字裡,對他們最重要的字不是AI,而是「用」和「開發」。因為即使不見得能帶來立即效益,他們仍相信,行動就是最有效的學習,特別在AI時代更是如此。