開放AI安全，巨頭迎來轉折點

上週，OpenAI釋出全球首次開放的安全推理模型：「gpt-oss-safeguard」。雖然不像每次ChatGPT推出新一代模型那般轟動，但它其實事關重大，能真正影響AI內容服務是否能持續受社會信任。

這是因為近期屢傳AI模型不當運作的悲劇事件：例如，美國青少年與AI聊天互動後輕生、也有許多人以此產出大量兒少不宜的內容。這已經促使澳洲在今年底，禁止未滿十六歲兒少使用社群平台，就連AI聊天機器人也受限制；同時間，美國參議院也正在研議類似法案。

這讓AI巨頭們意識到，如果缺乏應對安全政策的能力，整個產業恐怕會面臨被全面監管的命運。