為保護人權,IBM 決定終止「通用」人臉辨識業務

他們擔心這類技術會被濫用,以達成監控、種族定性等目的。

AI (artificial intelligence) concept, machine learning, nanotechnologies and face recognition concept, Interactive artificial intelligence digital advertisement in event exhibition hall, CCTV camera
AI (artificial intelligence) concept, machine learning, nanotechnologies and face recognition concept, Interactive artificial intelligence digital advertisement in event exhibition hall, CCTV camera

近期各地頻發的抗議事件,又再度引發了人們對面部識別技術的思考。而作為業界巨頭,IBM 現在更是拿出了實際的行動。早些時候 CEO Arvind Krishna 向美國國會致信,稱 IBM 已決定終止自己的「通用」人臉辨識業務。他強調 IBM「堅決反對」將此類技術用於監控、種族定性及「任何觸犯基本人權和自由」的活動,並表示當下正是就面部識別該被如何運用,甚至說是否該被運用進行「全國性對話」的最佳時機。

在此之前,已經有研究顯示目前的人臉辨識方案由於訓練模型都以白人男性為主,因此在對非白人人種和女性的識別上存在著更高的誤差。而基於公開採集數據實現的辨識結果是否構成對個人隱私的侵犯,也早已是老生常談的話題了。在信中 Krishna 承認 AI 對執法部門來說是一件「非常有力的工具」,但他同時也認為使用的一方需要時刻保證這件工具不會包含偏見,在其眼中諸如穿戴式相機等能夠提高透明度、便於追責的技術同樣需要大力提倡。

實際上,Krishna 的這封信只是近期要求推進美國警方改革聲浪中的一個例子。盡管對 IBM 來說面部識別並非其主要業務,但這樣級別、尤其是和政府來往甚密的企業會選擇在這個時候發聲,多少還是能讓人看到一些科技公司在這件事上的態度轉變吧。