「演算法」是種族歧視的救贖還是共謀?「吉姆克勞效應」又是什麼?

「演算法」是種族歧視的救贖還是共謀?「吉姆克勞效應」又是什麼?
Photo Credit: Reuters / 達志影像

我們想讓你知道的是

「後種族主義」認為嚴重的種族歧視幾乎不復存在,世界也走向公平與正義,數位時代下大數據分析與演算法的客觀性,也為這種論述注入活水,許多人認為只要按一下電腦上的按鍵,經過理性客觀的計算,便可根除結構性種族不平等,但事實真是這樣嗎?

文:蕭穎君

一個月多前,非裔美國人喬治・佛洛伊德(George Floyd)之死,從明尼亞波利斯(位於明尼蘇達州)的地方性憾事迅速延伸為以Black Lives Matter為口號的國際性「反種族歧視」維權運動,除了各地的遊行抗爭,也包含了社群媒體上發起的「#blackouttuesday」活動。然而,警察執法過當所造成的種族歧視事件和隨之而來的社會反動,其實在過去早己發生多次。

2014年8月9日,年僅18歲的非裔美國人麥可・布朗(Michael Brown)在未經調查與正當程序之下,遭白人警察射殺。此事件引發社會不滿,激起各地抗議,甚至導致州長必須宣布宵禁以試圖控制局勢。6年後的佛洛伊德之死,以及事後社會瀰漫的悲憤與不安氛圍,幾乎重演了當年的布朗命案。

警察執法與種族平等的緊張關係,似乎打臉了二戰後逐漸興起的「後種族」意識形態。

「種族主義」已為過去式的論述,會不會是個陰謀?

後種族主義(postraciality)認為嚴重的種族歧視幾乎已不復存在,世界也日趨走向公平與正義。例如:二戰之後,種族隔離政策的廢止與公民權利意識的抬頭;2008年,巴拉克・歐巴馬(Barack Obama)當選為首位擁有非裔血統的美國總統,約翰・麥克沃特(John McWhorter)因此宣稱美國的種族問題不再像過往般嚴重,而是即將抵達公平正義。

由於種族歧視已隨著時間消逝,在人人平等的社會中,後種族主義宣稱每人的生活樣貌取決於個人的努力而無攸關於所屬種族。然而,這樣的新穎的觀點,極有可能是白人用來掩飾特權的手段,而宣稱種族歧視已消逝,也僅是為了維護自己在社會中的主權。此外,僅是急於抹去種族問題的事實而非藉由國家體系真正處理種族不平等的問題,可能使種族歧視以新的姿態出現,甚至因此在無形之中加深種族不平等的現象。

演算法的公正客觀,是否有機會解決種族歧視的問題?

現今,數位時代的興起與迅速發展為後種族意識形態注入活水。大數據分析與演算法的客觀性在操作上似乎能避免主觀性的種族偏見。梅雷迪思・布魯沙德(Meredith Broussard)因此創造了一個新名詞「科技沙文主義」(technochauvinism),專指奉數字至上的人。這些人相信計算更客觀公平,甚至因此認為只要按一下電腦上的按鍵,經過理性客觀的計算,便可根除結構性種族不平等。

由此可知,後種族主義與科技發展皆意圖結束結構性種族歧視。然而,若缺乏更深層與全面的考量,兩者如此理想的合作便很容易幻滅,例如:應用於警察執法的「犯罪預測系統」。

shutterstock_1516856447
Photo Credit: Shutterstock / 達志影像

犯罪預測系統是依照犯罪者的「再犯率風險評估指數」來偵測未來的可能犯罪。大數據分析與演算法取代人類的決策不僅能增加警察執法效率,更能形塑警察客觀公正的形象。

然而,經由演算法所產出的預測數值,實際上是來自於過去犯罪紀錄的數據庫。犯罪行為初步的成立取決於警察的逮捕與否,所以這些罪行的公正性很有可能無意中都受警察個人的意志而有所偏頗。從此觀點便可推論,犯罪預測系統很有可能只是將受種族偏見影響的執法記錄,量化成看似公平客觀的運算結果,故演算法不但無法將種族歧視排除於運算過程中,反而是複製與重現。

邦妮・謝海(Bonnie Sheehey)也指出,犯罪預測系統可能會讓遭受種族歧視的族群受過去所侷限,即面對沒有未來的未來。因此,即便演算法保有理性與客觀的特性,也只是量化了種族歧視,並無法達到後種族意識形態「根除結構性種族歧視」的主張。

從「吉姆克勞法」,到「吉姆克勞效應」

結構性種族主義下所建立的數據庫可能已產生偏差(bias),不再是完全中立的數字。而演算法的客觀性就像是一副面具,將這些一直以來存在的種族歧視掩飾在其理性的運作方法之下。

魯哈・班雅明(Ruha Benjamin)將後種族意識形態與科技發展相互作用後所產生的結果,稱作「吉姆克勞效應」(New Jim Code)——即就算科技技術複製與重現了不平等,但仍被認為比過去人為的執行方法更客觀與進步。「Jim Code」的發想應該是來自美國種族隔離政策「Jim Crow」,而「Code」則是直接泛指所有新的科技技術。

因此,即便後種族主義將種族歧視視為過去式,並試圖藉由科技技術根除種族不平等的問題,最後仍以承襲一直以來的種族偏見收場。「吉姆克勞效應」不但應證了戈德堡所言:「種族歧視只是轉換成一種無法被輕易察覺的樣貌」,也證明了即使在科技技術的輔助下,結構性種族主義仍難以被擺脫的事實。

shutterstock_1405861640
Photo Credit: Shutterstock / 達志影像

後種族主義和科技沙文主義,其實是一種卸責的形式

上述皆說明了後種族主義與科技技術根除結構性種族主義的困難,以及兩者相互作用所產生的吉姆克勞效應。此外,後種族主義與科技沙文主義者在種族歧視方面其實都是抱持卸責的態度——後種族主義認為歧視問題為個人責任;另一方面,科技沙文主義者則認為種族歧視的現象皆與科技無關,因為經由計算所做的決策能創造更公平正義的社會。

然而,面對社會不平等的現象時,若抱持著「不甘我的事」的態度,實際上是間接將社會不平等視為理所當然、不可避免的現象。因為,沒有人願意處理,也沒有人處理得了。因此派翠卡・希爾・柯林斯(Patricia Hill Collins)提出「交織性」(intersectionality)在處理社會不平等現象時的重要性。交織性強調從不同面向交互影響中去理解社會不平等的現象,以了解不同權力關係與系統的相互連結。

因此,若拒種族不平等狀況於後種族主義與科技技術的範疇之外,並無法解決歧視問題,反而是促成吉姆克勞效應。或許科技技術的客觀性能夠助後種族主義一臂之力,但唯有各種相關因素的納入考量,才得以正視種族歧視問題。換句話說,歧視與否、平等與否,必須列為研發科技時的條件,而不是只是期望科技技術本身的客觀理性,變成直接解決與消弭社會中的種族偏見現象。

所以科技的客觀性,還有機會消除種族不平等的現象嗎?

研發新科技的過程中確實很難將種族平等的想像納入全面性的考量,便無形之中造成吉姆克勞效應。但換個角度想,科技的發展很有可能只是在追求技術的創新,而非將提升社會道德標準為首要目標,所以我們也不能對「科技技術直接消弭種族問題」的想像抱太大的期望。以下四個方法或許能夠讓科技技術在「相對客觀」的情況下,有助於緩解種族問題、社會不平等現象。

APTOPIX Million Man March Anniversary
Photo Credit:AP / 達志影像

1. 重新整頓研發小組

若數據庫是來自具種族偏見的社會,那麼受此不平等所苦的族群也必須加入研發小組。此外,科技的研發應以避免無形中複製並重演過去的種族偏見為首要前提,而根除社會中的不平等現象則為追求目標。

2. 以落實道德期望為目標

科技研發人員不應再信奉科技沙文主義,而是願意和與專業倫理學家一同建立科技倫理,以真正落實後種族主義追求的平等想像。

3. 應用交織性方法

以犯罪預測系統為例,將歷史、社會、環境等條件納入犯罪形成的可能原因,而不是只是一昧的將犯罪問題歸咎於犯罪者本身。只有透過交織性方法來討論各種不同社會面向與權力關係的運作,才有機會真正處理社會不平等的問題。

4. 積極主動取代消極被動

避免一昧的聚焦在演算法產生的結果,然後再被動的應對結果,而是從分析結果找出有助於改善現況的行動與策略。以犯罪預測系統為例,應利用社會關懷與資源協助潛在的犯罪者,將原本犯罪預測系統被動性的防禦,轉化為主動性的解決犯罪問題。

善用演算法,避免科技成為絆腳石

科技的理性與客觀應當被謹慎的善用,否則很容易造成吉姆克勞效應,使越來越多的歧視以無意識的姿態,更無所不在的存在於日常生活中。

因此,與其期望科技的中立能直接根除種族不平等的問題,不如正視問題,接受結構性種族主義的影響與種族歧視的事實,以交織性觀點為主,科技為輔,試圖找出解藥。除此之外,在演算法中嵌入更正確、適當的價值觀與道德意識,使科技的理性客觀成為解決社會不平等的推手,而非絆腳石。

參考資料

  1. Benjamin, Ruha. Race After Technology: abolitionist tools for the new Jim code.
  2. Benjamin, Ruha. Captivating Technology: race, carceral technoscience and liberatory imagination in everyday life.
  3. Benjamin, Ruha. Innovating inequity: if race is a technology, postracialism is the genius bar.
  4. Boyd, Danah, and M. C. Elish. Don’t believe every AI you see.
  5. Broussard, Meredith. Artificial Unintelligence: How Computers Misunderstand the World.
  6. Collins, Patricia Hill. Intersectionality as Critical Social Theory.
  7. Goldberg, David Theo. Are We Postracial Yet?.
  8. McWhorter, John. Racism in America Is Over.
  9. Sheehey, Bonnie. Algorithmic paranoia: the temporal governmentality of predictive policing.

延伸閱讀

責任編輯:丁肇九
核稿編輯:翁世航


猜你喜歡


當個人化服務成為剛性需求 品牌如何利用CRM優化後疫情時代的商業模式

當個人化服務成為剛性需求 品牌如何利用CRM優化後疫情時代的商業模式
photo credit:shutterstock

我們想讓你知道的是

隨著數位時代演變,個人化服務漸受各方企業重視,本文以數位CRM系統所衍生之各項服務為例,說明PChome如何將「MarTech」運用在個人化服務中,以及其所扮演的各種關鍵性角色。

隨著iOS14的社群隱私權政策改變,以往透過數位廣告帶來的流量紅利已隨之消退,追蹤用戶使用習慣與興趣所帶來的轉換率更是逐漸降低,加上疫情影響,線上消費數量暴增,消費者比以往更重視個人化服務,因此「再」數位化浪潮襲來,「MarTech」(科技行銷)儼然已成為品牌數位轉型的重要工具,如何利用數位CRM(Customer Relationship Management)系統洞察消費者需求、立定行銷策略正是品牌所要面臨的一大挑戰。

以人為出發點:CRM成為科技化行銷的主要策略

過去大眾傳播式的集體宣傳在現在市場中已經逐漸無法滿足消費者需求,消費者越來越注重個人化的體驗。個人化體驗首先要獲得個人化的喜好,因此眾多品牌開始利用數位廣告、商務對話的方式獲取用戶的購物慾望清單,以及點數經濟刺激舊客回購,透過追蹤會員在網站上瀏覽、產生購買行為的行動軌跡,再搭配大數據分析,針對不同族群設計推播內容再加以溝通,以此提升服務品質並深度經營顧客關係。而數位CRM系統則扮演著科技化行銷的主要策略,不僅能協助整合會員數據,更善加運用客戶標籤,傳遞精準的資訊,與消費者互動,提升「獲客」與「活客」的能力,建立忠誠度立足數位市場。

建立會員分級制度 打造精準個人化服務

數位CRM是打造顧客回流最佳的工具,不過要讓用戶長期買單,客製化的溝通模式與打造會員分級制度才能有效提升用戶黏著度。例如誠品以書店起家,目前也朝向複合式商場邁進,旗下事業版圖橫跨書店、文具店、電影院、旅館,甚至連生鮮超商、酒窖都有經營,也開始新增許多小規模的社區店;在電商方面,除了自有的誠品線上網站,也在其他電商開設主題館增加接觸點。誠品正在打造自己的生態圈,並努力運用數位足跡進行CRM策略應用,如將會員分卡分級,並給予高等級的會員不一樣的特級制度,但同時也為有特定偏好的會員設立不同的制度,像是針對購書會員推出「讀書人徽章」分級制度,有藝文活動也會優先讓高等級的讀書人先報名。

而PChome旗下的時尚選貨電商MiTCH攜手GoSky建立會員點數系統,利用Messenger Chatbot的功能打造數位會員卡,以簽到集點、兑禮、限時任務等誘因與用戶深度互動,創造每日簽到率81%的佳績。透過這樣的忠誠度計畫,企業更能區別用戶的使用頻率與黏著度,進而建立會員分級制度並精準溝通資訊。另外零售品牌全聯也攜手Appier運用AI技術整合線上線下的會員資料,並利用貼標技術辨別消費者輪廓,分析出會員曾搜尋、瀏覽的軌跡來量身打造客製化的專屬推薦商品。

MiTCH攜手GoSky建立會員點數系統,利用Messenger_Chatbot
photo credit:gosky官網
MiTCH攜手GoSky建立會員點數系統,利用Messenger Chatbot的功能打造數位會員卡深化會員互動。

消費型態轉變 透過生態圈落實CRM掌握會員輪廓

生態圈和全通路是許多零售商和電商目前都在深度經營的策略,為的都是收集更多的數據創造更個人化的體驗。例如誠品的會員制度不只是針對所有會員,還因應會員的消費習慣推出不同的方式和獎勵,讓消費者感到差異化,進而提升品牌黏著度。

電商品牌PChome 24h購物過去利用到貨服務以及不囉唆的退貨機制,作為培養客戶忠誠度的關鍵。他們也藉由完整化金流系統,建立了自己的P幣生態圈,透過完整的通路和支付系統了解消費者的消費習慣,現在藉由數位CRM操作觀察到,對比2019-2020年到今年台灣疫情爆發後,全站消費活躍用戶從本來的25-54歲年齡層,擴增到18-24歲以及65歲以上,另外是熟齡女性用戶比起2019上半年有20%以上的成長,顯示出受疫情影響,整體消費型態的改變更是橫跨各世代族群。

懂得根據數據策略布局才是關鍵心法

針對消費需求的變化,PChome 24h購物進一步將四大主題會場結合時事及需求規劃選品,不論是居家上班上課所需的3C產品、或是照顧到想要培養居家儀式感之族群的電玩、書店、健身等品項,還有提前佈局宅家防疫被悶壞的心,規劃一系列夏季穿搭、防曬彩妝、露營用品等夏季出遊必備產品。

運用數位CRM進行策略行銷,有利於品牌活絡舊客以及帶動業績成長,如PChome 24h購物在22周年慶「狂樂收貨節」利用大數據撈出會員最感興趣的人氣品牌及集品類,進行每日換檔,抑或是看準低接觸外送商機,與foodpanda攜手推出在APP、網站購物消費滿$1即可獲得foodpanda新客5折券,串聯兩大平台資源,建立更大的用戶資料庫,為後疫時代帶來嶄新的商業模式。

PChome_24h購物22周年生日慶「狂樂收貨節」,看準疫後需求調整四大主題會
photo credit:PCHome
PChome 24h購物22周年生日慶「狂樂收貨節」,看準疫後需求調整四大主題會場。

除了推品策略,CRM也能有新玩法,PChome 24h購物22周年慶還推出「拉長音折扣賽」,串聯自有平台資源並結合IG濾鏡功能,在社群上與粉絲大玩挑戰任務,完成任務後透過IG Chatbot的行銷技術發送相對應的優惠折扣,而這樣透過開發互動濾鏡的遊戲方式不僅優化用戶的社群體驗,更透過CRM系統將用戶分級,依據達成任務的級距發送獎勵,成功觸動年輕族群,導入站內達成轉換。

PChome_24h購物推出「拉長音折扣賽」,用IG濾鏡發起社群挑戰,吸引粉絲兌
photo credit:PCHome
PChome 24h購物推出「拉長音折扣賽」,用IG濾鏡發起社群挑戰,吸引粉絲兌換折扣。

Martech是許多企業、品牌在面對數位轉型時重要的行銷利器,其中CRM系統更是品牌與時俱進、端出更好的消費者服務所倚賴的重要工具,打造會員生態圈不僅能夠檢視會員服務的優劣並加以優化,建立會員忠誠度、使顧客不斷回購,更替平台帶入新契機的一大機會點。

本文章內容由「爆米花數位資訊」提供,經關鍵評論網媒體集團廣編企劃編審。


猜你喜歡