今年5月初，AI教父辛頓（Geoffrey Hinton），也是OpenAI共同創辦人兼首席科學家Ilya的老師，因為擔憂AI發展進程過快，宣布離開Google。最近也有其他科技業大老具名連署，要求暫停開發新技術，因為沒人能掌控、預測AI發展。
Open，才能有AI。過去的搜尋引擎時代，使用者可以自由瀏覽網路上的多元內容，自己決定要吸收哪一個。但，現在的生成式AI採用問答模式，多數人都是問一個問題、獲得單一答案，也沒辦法求證。久了，問的人可能逐漸對內容出處、正確性不以為意，創作內容的人也不會被看見，對整個人類社會有很大改變。
Google崛起時有個口號叫don't be evil（不作惡），因為搜尋引擎能決定搜尋結果的排名，如果每個人輸入相同關鍵字，只會看到相同的答案，世界上就變成單一的言論。所以搜尋引擎是一個非常複雜的系統，使用者在不同地方，不同IP、不同的語言，即使用的是相同關鍵字，得到的答案也會不一樣。
但是你不知道ChatGPT怎麼訓練模型，也不能對結果溯源，使用者不知道該怎麼影響它。它會讓這個世界無形的封閉起來，如果我們不去要求系統做各種檢驗，要求它提高開放程度，它會變成另一種一言堂，讓這個世界的多元性變不見。
這其實也是ChatGPT的局限，它不能保證正確性。搜尋引擎是透過有差異性、有鑑別度的關鍵字，從茫茫網頁裡篩選出資訊，你可以點選、閱讀。但是問答系統的問題與答案，是接龍遊戲的概念，比如說，你輸入今天天氣很⋯⋯，後面可以接好或壞，如果你想要引導它，可以說外面在颳大風下大雨，它就會說今天天氣很壞。你給它越多前情提要、背景，就越會出現你要的東西，它呈現的結果不等於實際存在，而是被你問題逼出來，給一個答案。
所以現在很多人在強調AI倫理，要求OpenAI公布它的訓練資料來源。此外，每個人的資訊素養也比以前更重要，要開始教導大家怎麼問問題，評估資訊的可靠性。盡信書，不如無書，答案只是參考，要訓練自己有能力判斷。
同時，這世界上不能只有一個問答系統，至少要有3、5個問答系統，未來的使用者可以在同一個頁面，比較不同系統的產出結果，練習從多元來源判斷正確性。
有些高度數位化與AI化的產業，累積夠多數據的業者競爭力就會比同業強，這是新進者很難競爭的時代。但我們還是要強調AI模型必須更透明開放，如果它不open，這世界就是一個黑盒子在統治了。
