美國警權不改革,科技業來封殺!IBM、亞馬遜、微軟宣布停售臉部辨識技術給美警

美國警權不改革,科技業來封殺!IBM、亞馬遜、微軟宣布停售臉部辨識技術給美警
Photo Credit: Shutterstock/達志影像

我們想讓你知道的是

IBM、亞馬遜、微軟本周陸續宣布,停止提供臉部辨識技術給美國執法機關,呼籲國會立法改革警權。IBM執行長克利希納指出,人工智慧是強大的工具,開發者和用戶都應該共同確保技術應用的精確度和正確性。

美國警察日前因執法過當而引發民間大規模示威後,科技業對美國警察的權力展開行動。IBM、亞馬遜(Amazon)陸續宣布停止向美警提供臉部辨識技術,微軟(Microsoft)昨(11)日加入此行列。微軟總裁史密斯(Brad Smith)表示,在美國制定出以人權為基礎的國家法之前,不會將這項技術賣給警察部門。

美警權力大,科技業自主規範

《福斯商業新聞》(Fox Business)報導,史密斯周四在與《華盛頓郵報》進行的直播訪談中,證實這項決定。除了停售技術給警方,微軟也將會制訂其它審查因素,藉此規範臉部辨識技術出售後的應用範圍。

美國自發生非裔民眾佛洛伊德(George Floyd)被白人警察壓頸致死的事件後,民眾次日開始上街抗議、訴求平權和警政改革,至今已經16天,抗議者仍未得到滿意的回應。史密斯對此呼籲,聯邦政府應該有所行動,僅靠科技公司單方面規範,不足以維護人民權益:

「如果全國業界內所有負責任的公司放棄了市場,卻被不選邊站的公司撿走,我們(科技業)就無法對國家利益和非裔民眾的生活善盡服務。我們需要國會採取行動,不是讓科技公司單打獨鬥,這是我們唯一能承諾保護人民生命的方法。」

在此之前,亞馬遜和IBM都已做出類似決策。《國家公共廣播電台》(NPR)報導,IBM執行長克利希納(Arvind Krishna)本周一致信國會表示,將不再向警方提供臉部辨識技術、助警方進行大規模監控和種族特徵側寫。

克利希納表示,警方可能會使用這項技術「侵犯基本人權和自由」,不符合公司的價值觀,「我們相信,現在是時候針對國內執法機構職員是否該使用臉部辨識技術、以及該如何使用,展開全國性的討論。」

《福斯商業新聞》指出,克利希納強調:

「人工智慧是一種強大的工具,可以幫助執法機構保障公民安全,而系統供應商和使用者有共同承擔的責任,確保人工智慧在演算偏誤方面有進行檢測,特別是用於執法機構時,這些偏誤都應該進行審核和回報。」

克利希納也呼籲國會,將更多警察執法過當的案例列為聯邦法院管轄範圍,以及修改警方的豁免資格,以免被侵權的受害者索償無門。

亞馬遜接著於周三在官方部落格表示,暫停提供臉部辨識技術給警方1年,希望這段時間「能讓國會有充裕時間,制定相應適切的規範」。《紐約時報》指出,以亞馬遜而言,這是一項驚人的轉變,因亞馬遜是執法機構愛用的臉部辨識技術供應商;和其他科技巨頭相比,亞馬遜向來拒絕暫緩拓展這方面的市場,即使臉部辨識技術的準確性至今仍受到質疑。

臉部辨識精確度存疑,可能認錯有色人種女性

近年興起的臉部辨識技術,引發過不少針對精確度的爭議。《BBC》報導,2015年,Google曾因圖像自動辨識系統將非裔的臉孔誤標註為猩猩,相當急切窘迫地道歉。《紐約時報》在2018年曾報導過麻省理工學院(MIT)研究員布倫維妮(Joy Buolamwini)的研究,指出臉部辨識系統對白人的辨識度較高,對於其他有色人種的女性,失誤率可高達35%。

布倫維妮去年赴國會作證,接受眾議員歐加修-寇帝茲(Alexandria Ocasio-Cortez)詢問時曾表示,在美國,工程師編寫臉部辨識演算法時,會排除人類性別表達(gender expression)的因素,單純就生物特徵辨識,而最精確的是辨識白人男性,而這些工程師主要也都是由白人男性所組成。

至2019年末,美國國家標準暨技術研究院(NIST)再次提出評估報告,以99位開發人員編寫的189種演算法,對來自800萬張臉孔的1800萬張照片進行辨識後發現,相對於高加索人種,臉部辨識技術對於亞裔和非裔的誤認率更高,差異介於10倍至100倍之間;尤其是在美國開發的演算法,對亞裔、非裔、美州原住民、太平洋諸島原住民的誤認率相當高。

然而,美國執法機構早已廣泛使用這種技術,這可能使有色人種被錯認為嫌犯的機率提高,引發更多法律和人權爭議。美國國會對於執法機關使用此技術的規範,仍在討論中。

延伸閱讀:

新聞來源:

責任編輯:林宜萱
核稿編輯:楊士範