亞馬遜圖像分析系統Rekognition的「點錯相」爭議

亞馬遜圖像分析系統Rekognition的「點錯相」爭議
Photo Credit: Ina Fassbender / picture-alliance / dpa / AP Images / 達志影像
我們想讓你知道的是

亞馬遜研發的Recognition系統可用作人臉辨識,然而該公司向執法部門提供此項服務,引起關注公民權益的團體擔心。

唸給你聽
powered by Cyberon

早前美國公民自由聯盟(ACLU)取得文件,發現美國有部分地方的警隊使用亞馬遜(Amazon)的圖像分析系統Amazon Rekognition,此系統透過深度學習技術辨認影像中的內容,包括物件、人臉和文字。亞馬遜曾宣傳這項於2016年底推出的服務,可供政府監控使用,警方能即時追蹤特定對象。

有見及此,ACLU聯同多個團體於今年5月發公開信給亞馬遜的行政總裁貝索斯(Jeffrey Bezos),關注Reognition帶來的潛在問題,並呼籲該公司停止協助政府監控。其後亞馬遜的股東、員工,以及多位研究科技發展的亦學者分別聯署,向貝索斯表達對Rekognition的關注。

28位國會議員曾被捕?

除了私隱問題外,系統出錯可能引致的不公亦受關注,特別是演算法面對不同膚色的人時出錯機率有別,或會不成比例地使少數族群受到影響。

過往已有多項研究顯示,臉部識別技術用在成年白人男性最準確,但如果用在其他膚色、性別及年齡的人身上,犯錯比率就會明顯堵加。ACLU日前公開的一項測試結果,同樣揭示這個問題。

利用亞馬遜提供的服務,ACLU將535位美國國會議員(100位參議員及435位眾議員)的照片,跟一個被捕疑犯大頭照資料庫作對比,結果發現有28人的頭像被Rekognition誤判為「吻合」。

false_matches_graphic_1
圖片來源︰ACLU

用來對比的資率庫源自公開的被捕照片,總共有25,000張。ACLU提到,任何人都可以付費使用亞馬遜的服務,對比照部臉片,而他們整個測試只需要花費12.23美元。

雖然整個國會有色人種的議員只佔20%,但被錯誤配對的28位議員當中,則有高達39%為有色人種,比例高出近一倍。這呼應了ALCU等團體所發的公開信中的憂慮。

測試門檻太低?

亞馬遜回應這項調查時質疑,ACLU在測試時使用80%可信度門檻——這是Rekognition系統用來判斷是否吻合的參數,可以按需要調整高低——對於辨別人臉並不足夠。該公司在聲明中提到,當因執法需要而使用臉部識別技術時,他們會建議用戶把門檻設定為95%或以上。

ACLU反駁指Rekognition的預設門檻為80%,他們測試中使用預設設定。而且亞馬遜網站上介紹Rekognition的頁面中,介紹臉部識別的例子也是用80%這個門檻。

加州大學柏克萊分校的電腦科學家高路(Joshua Kroll)則提醒,測試所用的國會議員照片比Rekognition在實際應用時遇到的圖像容易處理。高路亦獨立驗證了ACLU的測試結果,他說︰「就我所知,這是此項技術最容易處理的情況。雖然我們未作測試,但我預計在現場環境中它的表現會更差,因為你未必見到目標人物的正面、缺乏良好光線、存在障礙物、人們拿着或戴上遮掩他們臉部的東西。」

有人把關?

亞馬遜的聲明又表示,在真實使用時,Rekognition幾乎只用來協助收窄範圍,並由人類以自己的判斷檢視。然而佐治城大學私隱及科技中心的比度也( Alvaro Bedoya)指,現實中被錯誤辨認為疑犯的人最少會受到當局調查,認為宣稱沒有後果並不合理。

此外,電子私隱資訊中心的史葛(Jeramie Scott)更認為不應認為人類對系統有足夠制衡︰「通常一但有技術可用,人們就會過份依賴,像該技術不會犯錯似的。」

2009年,三藩市警方因為自動識別車牌的系統出錯,誤以為47歲女子格連(Denise Green)駕駛被盜車輛。警員要求她步出車外,一名警員以槍指住她,另一警員為她戴上手扣並命令她跪下。幸好格連在20分鐘後獲釋,未有造成傷亡。只要警員親自看一眼車牌,或者留意車的品牌、型號或顏色,就不會出錯,然而他們選擇相信系統。

即使100%準確仍有問題

史葛亦提到,即使臉部識別技術不會出錯,讓執法部門使用這項技術仍然值得關注︰「臉部識別技術令人無法維持匿名,它增加執法部門監控民眾的能力——即使是沒有涉嫌犯罪的人——並會影響美國憲法身一修正案所保護的權利及活動。我們在此極力避免的是大規模監控。」

AP_130731135962
Photo Credit: Mark Lennihan / AP Photo / 達志影像

被錯誤辨認的眾議員高美斯(Jimmy Gomez)及路易斯(John Lewis)已去信貝索斯,表示關注Rekognition對公民自由的影響。而同屬該28位國會議員的參議員馬基(Edward Markey)及眾議員古鐵雷斯(Luis Gutiérrez)與德索尼爾(Mark DeSaulnier),亦一同發信要求貝索斯回答七條關於Rekognition的問題,包括亞馬遜測試臉部識別技術的細節、使用此項技術的執法部門、有否保障美國公民的私隱權等等。

相關文章︰

資料來源︰