當安全性失控時　自駕車系統要會「自殺」

七月底，美國公路局發布報告：因為自駕系統誤判，一輛特斯拉（Tesla）電動車在自動駕駛狀態中失控衝撞卡車，車主身亡。調查員保守指出，超速是可能原因之一，但應該還有其他因素，正式報告得等一年後才揭曉。

這是今年自駕車熱潮引爆以來第一起系統致死事故。不過，特斯拉與監管單位口徑一致：單一事故非但不會阻礙科技進步，反而彰顯機器學習、分析數據的急迫性；更重要的是，當突如其來的危險發生，機器應具備最大限度減少傷亡為優先的不可抗指令。換言之，在極端情況下，它要主動「自廢武功」。

安全，無論是人身或心理層面，確實是未來車的智能化這一環頭號罩門，也是它在商業化之前建立信任基礎的關鍵要素，但現實是，回顧數位化革命歷程，沒有所謂固若金湯的安全系統。可預見的未來是，機器出包、甚至殺人仍將時有所聞，相關爭議也將日益白熱化。