「超智慧對齊」能打造更安全AI？

近期黃仁勳預言，未來5年內，AI會追上人類。剛回鍋的OpenAI執行長奧特曼也強調，AI開發不會停。但其聯合創辦人蘇茨克維卻擔憂，次世代的AI可能帶來重大社會風險。他所領導的「超智慧對齊」（Superalignment）專案，就是為此而生。

對我來說，所謂超智慧對齊，就是「自動化對齊」，讓AI能持續符合人類的期待。要了解這個概念，我們需要先理解預訓練與微調。

「預訓練」是將巨量資料壓縮成模型。在輸入要求後，AI就會照原始資料的共同性，產生答案。好比說，模型會注意到人臉的共同性如輪廓，收到指令後，重新畫一張人臉出來。但原始資料不足時，就可能出現幻覺。