特別報導

美國警察正用電腦演算法過濾你是不是「具威脅」

2017/10/29 ,

評論

TIME

Photo Credit: Depositphotos
TIME

TIME

時代雜誌是全球最受信賴的新聞來源,透過卓越報導、文字與攝影捕捉那些形塑我們生活的事件。時代集團旗下擁有100個經典品牌如時人(People)、運動畫報(Sports Illustrated)、時代(Time)、與財星(Fortune)等雜誌,以及其他如英國創立的Decanter、Wallpaper等超過50個各式各樣的媒體品牌。

我們想讓你知道的是

芝加哥這套目標預測系統原本只打算集中在前四百大高危險人物。但是如果把系統擴大到整個城市,讓每個被逮捕、或是因為身為暴力犯罪的受害者而成為列管目標,代表許多過去沒有重大刑事司法罪責的人,現在也被認為是潛在危險。

文:Andrew Guthrie Ferguson
翻譯:Wendy Chang

Andrew Guthrie Ferguson是美國哥倫比亞特區大學大衛克拉克法律學院教授,著有《The Rise of Big Data Policing: Surbeillance, Race, and the Future of Law Enforcement》。

電腦可以預測暴力犯罪嗎?在芝加哥、伊利諾州,已經有一套演算法將每個被逮捕的人打「威脅分數」(threat score),從1到500不等,系統使用四年下來,將近40萬的芝加哥人民幾乎都有一個官方的風險分數(police risk score),而這套演算法目前還是個秘密,從未公開向大眾解釋,卻是警務策略、警力調動的重要依據,希望可以藉此改變街頭犯罪。這也代表這美國的「大數據警力」未來,取決於你從哪個角度來看,它可以是減少犯罪的創新方法,你同樣可以把它當作大數據推動的一種社會控制。

從實際的效果來看,個人化威脅分數會自動呈現在警察的電腦控制台上,所以當警察令一名嫌疑犯停下時,他可以知道嫌疑犯的相對威脅有多高。預測的分數也塑造了警察主動干預的目標,干預措施包含家庭訪視、額外的巡邏,或是參與社區會議,以上所有的行動都想要傳達一個訊息:法律的力量正在監看著你。不只芝加哥是預防性治安的前鋒,紐約、洛杉磯這樣的城市,也正在考慮用大數據警察政策來定位危險指數較高的人。

2009年開始,出現以個人為基礎的預防性警務,試圖將公衛方法應用於管理暴力犯罪。如同流行病學的模式,找出環境中會增加健康風險(像是罹患癌症)的有害因子,犯罪模式也會增加生命威脅(比如中槍)。所以關鍵是要確定具預測性質的危險因素,並嘗試在環境因素層面進行補救。

芝加哥ITT的研究人員開發出一套演算法,讓警方可以優先找出最危險的人,系統會分析:過去因暴力、武器、或毒品而被捕的歷史;最近被捕的年齡(年齡越小,得分越高);事件受害者是遭到槍擊還是襲擊;還有犯罪活動的趨勢線(無論是增長還是減少)。然後電腦將這些變數進行分析,產出相對應的威脅分數,用來確定一個人開槍或是中槍的可能性。這個威脅分數會將每個人在芝加哥警方的重要目標名單(Strategic Subjects Lists)上排名,俗稱「熱點名單」(heat list)。

警方聲稱,鎖定目標的方法是找出高百分比的槍擊受害者,準確預測熱點名單。但也有批評,針對某些目標太過廣泛而且沒有效率,因為裡面包含了成千上萬個分數很高、但過去並沒有暴力犯罪歷史的人。但不管不管用,把每個人都打一個預防性的風險分數還有三個大問題懸而未解:這樣公平嗎?有沒有偏見?這是我們想要的警務未來嗎?

這裡講的公平,涉及了人們是如何被評分、警方會如何對待那些具威脅分數的人。依賴黑箱的電腦演算法來排序社會中的各種威脅,顯然本身也是一種威脅。社會要能夠相信這些數據,同意輸入的資料且能檢視資料結果。目前警方數據並未受到公開監督,不管是資料的輸入或輸出都不得而知,因此大眾也被蒙在鼓裡,無法審核或是質疑每個人得到的威脅分數。

令人同樣不安的是,這個威脅分數會影響警方和街頭人民互動的方式。高風險分數影響著介入暴力的策略、警察接觸的人,也決定了受到監視的人選。但是這個分數也扭曲了警方的日常決定,不管是警力的使用或是合理懷疑,畢竟,一旦警察掌握了一個人有高危險分數的訊息,就會影響犯罪嫌疑的評判、增加感知風險,警察反而會與系統判定的「高風險人物」進行更頻繁、更具侵略性的互動。

系統內部也可能出現偏見,2017年美國司法部民政署針對芝加哥警察局進行調查,種族歧視的模式仍舊是個問題。當我們希望演算法的公正性可以避免人為的偏見時,現實的狀況是輸入的資料(特別是逮捕次數)本身就是警察在巡邏或是調查涉嫌犯罪行為時的人為考量結果。所以儘管大數據數學可能是「客觀的」,但是輸入的資料無法擺脫人類的偏見,還是會扭曲了最終的結果。

最大的問題是,我們是否希望警察將每個被捕者列為可能的高危險/低危險威脅。芝加哥這套目標預測系統原本只打算集中在前四百大高危險人物。但是如果把系統擴大到整個城市,讓每個被逮捕、或是因為身為暴力犯罪的受害者而成為列管目標,代表許多過去沒有重大刑事司法罪責的人,現在也被認為是潛在危險。

這個答案不容易回答。過去因種族歧視而挫敗的守法公民可能會希望有個客觀的方法,以減少與警方接觸。畢竟,威脅分數看起來是種替代方法,取代過去因其種族、年齡或所處社群而遭受的懷疑,威脅分數也可以減少警察對許多低風險或無風險個人的懷疑。

同時,我們無法控制、審核或質疑評分的過程,也會引起真實合法性的問題。有意或無意地去操弄數據,讓人可以鎖定針對特定人士,其實也有其風險。而最根本地,量化風險是如此地容易,我們看不到的是,決定社會是否應該將人類社會風險量化其實很困難。這些是大數據警務在全美範圍內蔓延的問題,每個社區在制定預防性警務策略之前,必須進行辯論。

© 2017 Time Inc.版權所有。經Time Inc.授權翻譯並出版,嚴禁未經書面授權的任何形式與語言版本轉載。

責任編輯:翁世航
核稿編輯:潘柏翰

專題下則文章:

《耶穌是王》:肯伊威斯特找到了上帝,卻失去了靈感



【TIME】【FORTUNE】全球中文獨家授權:

《關鍵評論網》獨家獲得時代雜誌與財星雜誌全球中文數位版授權,將每日提供兩大媒體品牌文章的中文譯文,題材涵蓋國際政治、財經、科技、文化、歷史、生活、娛樂等各領域。

看完整特別報導