Data for Good:我們希望演算法做對什麼?

Data for Good:我們希望演算法做對什麼?
Photo Credit: Shutterstock / 達志影像

我們想讓你知道的是

當我們意識到,數據工作實為一處於統治矩陣的權力事業時,接連而來的,就是我們該以什麼樣的方式去挑戰和改變這樣的權力運作?或者更精確的問,我們希望數據工作的目標,是去反映出既存的權力樣態,還是更進一步的採取行動來為社會謀善?

又如Emma A. Jane(2018)收集了線上性別仇恨的性挑釁、強暴威脅和攻擊語言的例子,透過運算程式集結成「隨機強暴威脅產生器」(The Random Rape Threat Generator,RRTG),可產生800億種獨特的強暴威脅和性羞辱、性辱罵的文字。這兩個例子,都宛若照妖鏡的存在,藉由數據工作來揭露了既存的社會秩序,前者看見了小說所反映的社會性別偏見,後者看見了性別仇恨的語言總是與強暴文化交織在一起的現象。

那何謂過濾器?我們可以將眼光放回到台灣的例子。第二屆性別暴力防治駭客松(2016/12/03-04)中的作品「Poly you」,以打造性別友善環境為發想,開發Google Extension套件,能將網路文本中含有性別歧視標籤的語句,置換為中性用語詞彙,藉此讓網路上的閱聽眾能減少面對性別歧視和暴力的噪音,並讓性別歧視標籤於社群傳播中消音。

同場活動的另一個作品「Go home」,則是以過濾危險地點的方式來打造預防性暴力跟蹤騷擾的App,將性別暴力的犯罪地點做成地圖熱點,讓使用者在回家的路上能避開這些危險地,規劃出一條安全回家的路線。這兩個例子都企圖作為一個篩網,前者篩去性別歧視的語言,後者篩去性別暴力的潛在威脅,藉此打造出性別友善的環境。

從挑戰權力的向度來看,照妖鏡的目標是反映出既存的社會性別秩序,讓我們看見權力之傾斜;過濾器的目標則是用行動謀善,希望能藉此篩出更友善的社會。然而,如此的謀善行動是否為具有共識的善,卻仍有著不同的遲疑聲音。比如,當性別歧視語言被演算法篩去並置換後,是否就意味著性別歧視消失了(可以想見當這樣的服務普及後,可能會有新的可閃躲偵測的性別仇恨語言出現)?當我們從女性用路人的角度來思索預防性暴力的解方,而未去挑戰處於更根源統治矩陣中的壓迫力量時,是否真能帶來根本的解放?

D’Ignazio與Klein(2020:86-87)便曾指出,我們的數據工作有可能在無意間助長了文化中流傳的缺陷敘事(deficit narratives),亦即,將某些文化或群體化約為受害者,而不去描寫其具有的力量、創意和能動性。如在數據工作中將女性描繪成被謀殺、強暴或親密關係暴力的受害者,讓這些女性的圖像都單一化為沒有能動力,需要政府、國際組織和公民拯救的受害者模樣。那麼,我們可以說這樣的數據工作確實是在為社會謀善嗎?

這些都是難以輕易下定論的反思與提問。Hooker(2018)和D’Ignazio與Klein(2020)對此給的解方,不約而同的都是:重視地方知識。如Hooker(2018)認為有技術的志願者(如駭客松參與者)因為對在地的脈絡並不熟悉,且也會受囿於自身熟悉的工具,因而經常會給出不適宜的解決方案。

同樣的,D’Ignazio與Klein(2020:180-181)也認為數據科學家經常是「數據庫的陌生人」,無法知曉數據生產和座落的脈絡,因而很容易在「馴服」數據的過程中造成認識暴力(epistemic violence),讓自己熟悉的觀點凌駕於在地知識之上。因此她們兩位採用女性主義立場論,主張在數據收集、清理、分析和溝通的過程中,都要重視不同的觀點和聲音(尤其是那些來自實際生活和身體體驗的觀點),並納入多元參與的可能。

因為單一一個數據科學家絕不可能對抗統治矩陣,但藉由參與式的、納入邊緣者聲音的設計型態,就有可能培力計畫參與者,讓數據工作於專家和社區間進行知識轉移,並帶動起社區的資訊基礎建設,創造出更具有創意、更有效、且更紮根於行動中的參與式數據計畫。而這也許就是用數據工作挑戰並改變權力的機會所在。

參考書目

  • Bassett, Caroline, 2012, “Canonicalism and the Computational Turn.” Pp. 105-126 in Understanding Digital Humanities, edited by David M. Berry. London: Palgrave Macmillan UK.
  • D’Ignazio, Catherine and Lauren F. Klein, 2020, Data Feminism. Cambridge: The MIT Press.
  • Hooker, Sara, 2018, Why “data for good” lacks precision. Towards Data Science.
  • Jane, Emma A., 2018, Systemic misogyny exposed: Translating Rapeglish from the Manosphere with a Random Rape Threat Generator. International Journal of Cultural Studies, 21(6), 661-680.
  • Kowalski, Robert, 1979, Algorithm= logic + control. Communications of the ACM, 22(7), 424-436.
  • Madaan, Nishtha, Sameep Mehta, Shravika Mittal, and Ashima Suvarna, 2018, Judging a Book by its Description: Analyzing Gender Stereotypes in the Man Bookers Prize Winning Fiction. arXiv preprint arXiv:1807.10615.

本文經厝邊頭尾話性別和《臺灣人工智慧行動網》授權轉載,原文發表於此

責任編輯:潘柏翰
核稿編輯:翁世航


猜你喜歡


企業上雲不必膽戰心驚!杜絕駭客攻擊、全面自動防護,鎖定6/29 AWS Security Web Day

企業上雲不必膽戰心驚!杜絕駭客攻擊、全面自動防護,鎖定6/29 AWS Security Web Day

我們想讓你知道的是

架構全面健檢、探索客戶信任的營運之道,所有企業/個人雲端轉型所需要的資安解答,都能在6月29日登場的AWS Security Web Day資訊安全線上研討會獲得解答。

時至今日,網路攻擊時時刻刻在發生。尤其企業在網路環境上提供服務的每一秒鐘,也許都有駭客想要探測企業主機,試圖找到弱點進行攻擊,以取得營業機密或個資,又或是讓企業成為其他目標的攻擊跳板。換言之,若萬一企業不幸被駭客鎖定,就等著終日提心吊膽。

然而,難道企業就一定要面臨這樣的危機,甚至坐以待斃?答案:當然不是。想要架構全面健檢、探索客戶信任的營運之道,所有企業/個人雲端轉型所需要的資安解答,都能在6月29日登場的AWS Security Web Day(資訊安全線上研討會)取得收穫。

掌握資安,由此展開!免費報名AWS Security Web Day

先上雲還是先顧資安?AWS讓企業一件不漏!

事實上,企業並不是數位轉型上雲後,才開始做資安;而是先有資安,才進一步將地端架構搬上雲端。須先釐清如此重要的順序基礎,確保雲端遷移過程一定要安全,才能談更多雲端轉型的成長策略;否則,若只關注資料上雲,但忽略了資安基礎,那麼無論換了多少雲端服務平台,都仍是讓企業暴露在不必要的風險之中。

為保障企業資訊安全,為企業客戶堅守資安防線,全球雲端服務供應商龍頭AWS建議,在資料遷移的過程即導入資安觀念與應用;例如AWS鼓勵企業客戶檢視系統架構或權限配置,確保上雲之後符合最小權限原則,讓無權限者不能任意讀取資料。

資安如同建築的地基結構,是保證企業安穩經營的重中之重。如果企業/個人對雲端轉型的資安課題有興趣,或是希望全盤巡視企業資安、自我健檢,卻又不知如何著手,那麼即將於6月29日登場的AWS Security Web Day(資訊安全線上研討會)絕對是不可錯過的活動。

掌握資安,由此展開!免費報名AWS Security Web Day

AWS Security Web Day,為企業雲端轉型、資安升級

企業雲端轉型該怎麼面對資安問題?關於轉型路上會遇到的資安挑戰與迷思,AWS Security Web Day研討會中,專業講師與企業經驗談都將一一為您指點迷津。

在研討會中,也會以AWS產品作為示範解析,探索資安解決方案。AWS服務產品和關聯供應鏈都經過審查,且是業界公認足夠安全、可用於高度機密的工作環境。

只要掌握AWS全面的資安服務與功能,提升滿足核心安全性與合規性要求的能力,不但能提供企業所需的控制權,更能塑造一個最安全的雲端運算環境來開展業務。另外,AWS也可讓企業的安全任務全面自動化,將主要重心回歸至業務擴展與創新,使用多少就負擔多少費用,讓每一筆成本都高效運用。

AWS Security Web Day 好禮不斷!參加即有機會獲得 $300 AWS Credits

精彩議程將包含:從 AWS 角度看 zero-trust 架構設計、如何在 SaaS 多租戶環境中實現資源獨立性及安全性、在 Kubernetes 環境中實現容器安全性、使用雲原生技術做威脅偵測與自動響應、AWS Security 相關服務免費方案簡介....等等,本次活動也邀請成功企業分享企業資安痛點以及解決方案。

活動當天將進行 100 元外送美食券有獎徵答,同時 AWS 也提供 $300美金 AWS Credits 申請機會給參加者,來協助大家實現第一個上雲計畫!

探索資安,即刻報名AWS Security Web Day:


猜你喜歡