黑人被誤判機率比白人高100倍！IBM停止研發人臉辨識：絕不寬容「歧視科技」

各大企業出面挺黑人社群，誓言對抗「體制層次的種族主義」。雖說企業集體發聲實屬可貴，但這次抗議力道之大，彰顯民眾對體制改革的要求不只是喊口號，企業也不能再流於「嘴上功夫」——科技公司IBM就展現了坐而言不如起而行的決心。

6月8日，IBM執行長阿文德．奎許納（Arvind Krishna）寫了一封公開信給國會議員，提出3點具體的改革措施，其中一點即是從自身業務著手：全面中止研發與販售人臉辨識技術。

奎許納指出這個決定是為了達成「負責任的科技使用」，科技可以促進透明度、協助警察保護社區，但如果反而助長了歧視和種族偏見，奎許納表示，「IBM絕不會寬容使用這樣的科技。」並呼籲，現在是啟動全國性對話的好時機，去討論是否該讓執法機關採用人臉辨識技術，如果要用，又該如何合理使用。

近來由人工智慧驅動的人臉辨識飛快發展，負責研發的企業更販售技術給警察使用。然而，根據美國國家標準與技術研究院（NIST）一項持續進行的研究，如果把一位非裔美國女性的臉放進大型資料庫做比對，辨識錯的機率更高；在某些案例中，非裔和亞裔美國人被錯誤辨識的機率，比白人男性高出100倍。在所有結果中，中年白人男性擁有最高的辨識準確率。

科技巨頭亞馬遜的雲端運算服務旗下，有一個人臉辨識軟體Rekognition，一直以來販售給美國移民與海關執法局（ICE）等執法機關使用。然而，2018年美國公民自由聯盟卻發現，Rekognition誤把28名國會議員辨識成被逮捕的罪犯，而且大部分被認錯的都是有色人種。

這顯示出，由於餵養供機器學習的資料偏差，人臉辨識仍不完善。而將不完善的技術轉移給政府使用，持續產生對有色人種不利的處境。

誓言中止人臉辨識的IBM也不例外，《紐約時報》（The New York Times）2018年報導指出，IBM系統當時對深膚色女性辨識錯誤的機率高達35%。此後，IBM使用公共資料訓練系統，想要改善偏見，但隨後又被指控未經同意取用Flickr近100萬張照片做訓練。

而現在，IBM徹底退出此領域。《CNBC》報導，知情人士指出，實際上，IBM的人臉辨識業務一直沒有很賺錢，因此，IBM除了因應社會現況做出這個道德決定，其中也不乏商業考量。不過對於這樣一家政府是大客戶的企業來說，這個決定仍具備非常重大的意義。

除了放棄人臉辨識業務以外，奎許納也在信中具體支持警察改革的法案、以及推動給社經弱勢者的教育計畫。大動作砍掉業務，奎許納更在信中寫道：追求平等，一直是IBM的信條。1953年－－1964年解除種族隔離的《民權法案》簽訂之10年前，時任總裁小托馬斯．沃森（Thomas J. Watson, Jr.）也寫公開信給員工，表示不管種族、膚色，所有人都有平等的權利在美國工作與生活，並拒絕將當時的種族隔離法案《吉姆．克勞法》落實在公司裡。

而現在，不管大眾認同與否，IBM或許又再度展現標竿性的企業作為。奎許納寫道：「我們知道我們所提的這些措施，只是一個起頭，IBM想要與這個國家一同追求平等與正義，我們已經準備好跟你們（議員）一起推動政策進展，藉此團結、完成國家存在的目的。」

（參考來源：IBM Blog、CNBC、Verge(1)、Verge(2)、Business Insider、The New York Times）

核稿編輯：林易萱