「演算法」是種族歧視的救贖還是共謀?「吉姆克勞效應」又是什麼?

「演算法」是種族歧視的救贖還是共謀?「吉姆克勞效應」又是什麼?
Photo Credit: Reuters / 達志影像

我們想讓你知道的是

「後種族主義」認為嚴重的種族歧視幾乎不復存在,世界也走向公平與正義,數位時代下大數據分析與演算法的客觀性,也為這種論述注入活水,許多人認為只要按一下電腦上的按鍵,經過理性客觀的計算,便可根除結構性種族不平等,但事實真是這樣嗎?

文:蕭穎君

一個月多前,非裔美國人喬治・佛洛伊德(George Floyd)之死,從明尼亞波利斯(位於明尼蘇達州)的地方性憾事迅速延伸為以Black Lives Matter為口號的國際性「反種族歧視」維權運動,除了各地的遊行抗爭,也包含了社群媒體上發起的「#blackouttuesday」活動。然而,警察執法過當所造成的種族歧視事件和隨之而來的社會反動,其實在過去早己發生多次。

2014年8月9日,年僅18歲的非裔美國人麥可・布朗(Michael Brown)在未經調查與正當程序之下,遭白人警察射殺。此事件引發社會不滿,激起各地抗議,甚至導致州長必須宣布宵禁以試圖控制局勢。6年後的佛洛伊德之死,以及事後社會瀰漫的悲憤與不安氛圍,幾乎重演了當年的布朗命案。

警察執法與種族平等的緊張關係,似乎打臉了二戰後逐漸興起的「後種族」意識形態。

「種族主義」已為過去式的論述,會不會是個陰謀?

後種族主義(postraciality)認為嚴重的種族歧視幾乎已不復存在,世界也日趨走向公平與正義。例如:二戰之後,種族隔離政策的廢止與公民權利意識的抬頭;2008年,巴拉克・歐巴馬(Barack Obama)當選為首位擁有非裔血統的美國總統,約翰・麥克沃特(John McWhorter)因此宣稱美國的種族問題不再像過往般嚴重,而是即將抵達公平正義。

由於種族歧視已隨著時間消逝,在人人平等的社會中,後種族主義宣稱每人的生活樣貌取決於個人的努力而無攸關於所屬種族。然而,這樣的新穎的觀點,極有可能是白人用來掩飾特權的手段,而宣稱種族歧視已消逝,也僅是為了維護自己在社會中的主權。此外,僅是急於抹去種族問題的事實而非藉由國家體系真正處理種族不平等的問題,可能使種族歧視以新的姿態出現,甚至因此在無形之中加深種族不平等的現象。

演算法的公正客觀,是否有機會解決種族歧視的問題?

現今,數位時代的興起與迅速發展為後種族意識形態注入活水。大數據分析與演算法的客觀性在操作上似乎能避免主觀性的種族偏見。梅雷迪思・布魯沙德(Meredith Broussard)因此創造了一個新名詞「科技沙文主義」(technochauvinism),專指奉數字至上的人。這些人相信計算更客觀公平,甚至因此認為只要按一下電腦上的按鍵,經過理性客觀的計算,便可根除結構性種族不平等。

由此可知,後種族主義與科技發展皆意圖結束結構性種族歧視。然而,若缺乏更深層與全面的考量,兩者如此理想的合作便很容易幻滅,例如:應用於警察執法的「犯罪預測系統」。

shutterstock_1516856447
Photo Credit: Shutterstock / 達志影像

犯罪預測系統是依照犯罪者的「再犯率風險評估指數」來偵測未來的可能犯罪。大數據分析與演算法取代人類的決策不僅能增加警察執法效率,更能形塑警察客觀公正的形象。

然而,經由演算法所產出的預測數值,實際上是來自於過去犯罪紀錄的數據庫。犯罪行為初步的成立取決於警察的逮捕與否,所以這些罪行的公正性很有可能無意中都受警察個人的意志而有所偏頗。從此觀點便可推論,犯罪預測系統很有可能只是將受種族偏見影響的執法記錄,量化成看似公平客觀的運算結果,故演算法不但無法將種族歧視排除於運算過程中,反而是複製與重現。

邦妮・謝海(Bonnie Sheehey)也指出,犯罪預測系統可能會讓遭受種族歧視的族群受過去所侷限,即面對沒有未來的未來。因此,即便演算法保有理性與客觀的特性,也只是量化了種族歧視,並無法達到後種族意識形態「根除結構性種族歧視」的主張。

從「吉姆克勞法」,到「吉姆克勞效應」

結構性種族主義下所建立的數據庫可能已產生偏差(bias),不再是完全中立的數字。而演算法的客觀性就像是一副面具,將這些一直以來存在的種族歧視掩飾在其理性的運作方法之下。

魯哈・班雅明(Ruha Benjamin)將後種族意識形態與科技發展相互作用後所產生的結果,稱作「吉姆克勞效應」(New Jim Code)——即就算科技技術複製與重現了不平等,但仍被認為比過去人為的執行方法更客觀與進步。「Jim Code」的發想應該是來自美國種族隔離政策「Jim Crow」,而「Code」則是直接泛指所有新的科技技術。

因此,即便後種族主義將種族歧視視為過去式,並試圖藉由科技技術根除種族不平等的問題,最後仍以承襲一直以來的種族偏見收場。「吉姆克勞效應」不但應證了戈德堡所言:「種族歧視只是轉換成一種無法被輕易察覺的樣貌」,也證明了即使在科技技術的輔助下,結構性種族主義仍難以被擺脫的事實。

shutterstock_1405861640
Photo Credit: Shutterstock / 達志影像

後種族主義和科技沙文主義,其實是一種卸責的形式

上述皆說明了後種族主義與科技技術根除結構性種族主義的困難,以及兩者相互作用所產生的吉姆克勞效應。此外,後種族主義與科技沙文主義者在種族歧視方面其實都是抱持卸責的態度——後種族主義認為歧視問題為個人責任;另一方面,科技沙文主義者則認為種族歧視的現象皆與科技無關,因為經由計算所做的決策能創造更公平正義的社會。

然而,面對社會不平等的現象時,若抱持著「不甘我的事」的態度,實際上是間接將社會不平等視為理所當然、不可避免的現象。因為,沒有人願意處理,也沒有人處理得了。因此派翠卡・希爾・柯林斯(Patricia Hill Collins)提出「交織性」(intersectionality)在處理社會不平等現象時的重要性。交織性強調從不同面向交互影響中去理解社會不平等的現象,以了解不同權力關係與系統的相互連結。

因此,若拒種族不平等狀況於後種族主義與科技技術的範疇之外,並無法解決歧視問題,反而是促成吉姆克勞效應。或許科技技術的客觀性能夠助後種族主義一臂之力,但唯有各種相關因素的納入考量,才得以正視種族歧視問題。換句話說,歧視與否、平等與否,必須列為研發科技時的條件,而不是只是期望科技技術本身的客觀理性,變成直接解決與消弭社會中的種族偏見現象。

所以科技的客觀性,還有機會消除種族不平等的現象嗎?

研發新科技的過程中確實很難將種族平等的想像納入全面性的考量,便無形之中造成吉姆克勞效應。但換個角度想,科技的發展很有可能只是在追求技術的創新,而非將提升社會道德標準為首要目標,所以我們也不能對「科技技術直接消弭種族問題」的想像抱太大的期望。以下四個方法或許能夠讓科技技術在「相對客觀」的情況下,有助於緩解種族問題、社會不平等現象。

APTOPIX Million Man March Anniversary
Photo Credit:AP / 達志影像

1. 重新整頓研發小組

若數據庫是來自具種族偏見的社會,那麼受此不平等所苦的族群也必須加入研發小組。此外,科技的研發應以避免無形中複製並重演過去的種族偏見為首要前提,而根除社會中的不平等現象則為追求目標。

2. 以落實道德期望為目標

科技研發人員不應再信奉科技沙文主義,而是願意和與專業倫理學家一同建立科技倫理,以真正落實後種族主義追求的平等想像。

3. 應用交織性方法

以犯罪預測系統為例,將歷史、社會、環境等條件納入犯罪形成的可能原因,而不是只是一昧的將犯罪問題歸咎於犯罪者本身。只有透過交織性方法來討論各種不同社會面向與權力關係的運作,才有機會真正處理社會不平等的問題。

4. 積極主動取代消極被動

避免一昧的聚焦在演算法產生的結果,然後再被動的應對結果,而是從分析結果找出有助於改善現況的行動與策略。以犯罪預測系統為例,應利用社會關懷與資源協助潛在的犯罪者,將原本犯罪預測系統被動性的防禦,轉化為主動性的解決犯罪問題。

善用演算法,避免科技成為絆腳石

科技的理性與客觀應當被謹慎的善用,否則很容易造成吉姆克勞效應,使越來越多的歧視以無意識的姿態,更無所不在的存在於日常生活中。

因此,與其期望科技的中立能直接根除種族不平等的問題,不如正視問題,接受結構性種族主義的影響與種族歧視的事實,以交織性觀點為主,科技為輔,試圖找出解藥。除此之外,在演算法中嵌入更正確、適當的價值觀與道德意識,使科技的理性客觀成為解決社會不平等的推手,而非絆腳石。

參考資料

  1. Benjamin, Ruha. Race After Technology: abolitionist tools for the new Jim code.
  2. Benjamin, Ruha. Captivating Technology: race, carceral technoscience and liberatory imagination in everyday life.
  3. Benjamin, Ruha. Innovating inequity: if race is a technology, postracialism is the genius bar.
  4. Boyd, Danah, and M. C. Elish. Don’t believe every AI you see.
  5. Broussard, Meredith. Artificial Unintelligence: How Computers Misunderstand the World.
  6. Collins, Patricia Hill. Intersectionality as Critical Social Theory.
  7. Goldberg, David Theo. Are We Postracial Yet?.
  8. McWhorter, John. Racism in America Is Over.
  9. Sheehey, Bonnie. Algorithmic paranoia: the temporal governmentality of predictive policing.

延伸閱讀

責任編輯:丁肇九
核稿編輯:翁世航