Data for Good:我們希望演算法做對什麼?

Data for Good:我們希望演算法做對什麼?
Photo Credit: Shutterstock / 達志影像

我們想讓你知道的是

當我們意識到,數據工作實為一處於統治矩陣的權力事業時,接連而來的,就是我們該以什麼樣的方式去挑戰和改變這樣的權力運作?或者更精確的問,我們希望數據工作的目標,是去反映出既存的權力樣態,還是更進一步的採取行動來為社會謀善?

文:余貞誼(高雄醫學大學性別研究所 助理教授)

Robert Kowalski於1979年以簡潔的運算式——Algorithm = Logic + Control——說明演算法的組成和運作:邏輯元素指的是一種用來解決問題的知識,它確立這個演算法要做什麼(What is to be done);控制元素指的是決定用以解決問題的策略(How it is to be done),並以此來形塑演算法的效能。

從這雙元素的相互配合中,實可見電腦運算如Bassett(2012:120-121)所言,是一種科技—文化政治(techno-cultural politics)。要理解軟體是如何運作的,並不只需要考慮其邏輯符碼,還要探索控制層面,即決定它怎麼界定問題、衡鑑問題、以及解決問題的方法,才能看見軟體運作、影響的程度和侷限。

知曉演算法的運作組成,同時也意味著,把任務交託給演算法,並不等於讓人類責任止步。反之,演算法中始終鑲嵌著的科技文化政治(如:我們如何意識到這是個需要解決的問題?在思考解決方案過程中挾帶著什麼樣的假設與視角?),會參與形塑出演算法的效用和潛能,進而改變或強化社會的秩序。因此,對於演算法的評估,除了考慮其效能之外,無可迴避的也需審視,它是否對社會有益?

Data for Good?

然而,什麼才叫做對社會有益?深度學習研究團隊Google Brain的研究員Sara Hooker(2018)指出,用數據謀善(data for good)的說法,對技術實踐者來說並不精確,因為其並未說明所謂的「好」究竟是什麼。一般普遍認定為好的數據計畫的四個標準,包括數據計畫的最終接受者是非營利組織或政府單位、由熟練的志願者開發和交付數據產品、免費為組織/個人提供數據工具、提供教育訓練來增進弱勢社群的數據能力等,並不足以清楚說明或反映其真實效用。

比如,倚賴志願者雖是架接技術鴻溝的有力方式,但志願者能夠投注的時間經常是不穩定的,導致其生產出來的數據產品未必能直接或永續採用,且能夠引起志願者興趣的議題分布也不均等(如最新穎的題材最容易受到青睞);或者即便大公司為非營利組織提供了免費的數據工具,但這些組織往往也欠缺相應的技術能力,因而無法激發出更有意義的參與模式。

針對Hooker呼籲需有更嚴謹的語言來描述何謂好的數據工作,D’Ignazio與Klein(2020:41-44)推進數據計畫的倫理理想,轉而以「用數據來共同解放」(data for co-liberation)作為數據計畫的終極目標,認為好的數據工作需要體認到數據和演算法是如何根植在統治的矩陣之中(如表1),才有可能讓數據工作去挑戰權力結構和系統的根源,以帶來終結壓迫的解放結果。

  • 表 1:統治矩陣的四個領域(D’Ignazio & Klein,2020:42)
結構領域
組織壓迫和政策
規訓領域
治理者和管理者壓迫:
法律和政策透過科層加以應用和執行
霸權領域
流通的壓迫理念:
文化和媒體
人際領域
壓迫的個人經驗

數據計畫根植於統治矩陣,所謂何意?D’Ignazio與Klein(2020:28)從PredPol的故事開始說起。PredPol是一個以過往的犯罪數據做為訓練數據來預測巡邏警力該如何有效配置的演算法。這會有什麼問題嗎?兩位作者先帶領我們停下來思考「數據」一詞。她們認為,「數據」此詞具有一種修辭的目的,意指將具有爭議的資訊轉化為一種證據的基礎,以做出後續的宣稱。

在這個演算法例子中,犯罪資料之所以能成為可被信任的數據,是由規訓領域加以支撐(因我們信賴法治科層系統的正當性)。然而,這些犯罪數據的由來,往往是因為有色人種被污名化為潛在罪犯,因而其所處的街區總是不成比例的被安置較多警力而造成的(亦即,犯罪率較低的區域,不是源於其沒有發生犯罪行為,而是由於佈置較少的巡邏警力,因而這些犯罪行為較不容易被警察看見、納入紀錄)。

因此,這些犯罪數據的產製事實上是根植於霸權領域的歧視理念。而當我們以此數據做為預測系統的訓練集,就會形成如O’Neil所說的惡性循環迴圈(pernicious feedback loop)(轉引自D’Ignazio與Klein,2020:28),既反映了過去的種族歧視行動,也放大了種族歧視的效應,使其轉進結構領域和人際領域,再度造成了壓迫力量。

用數據來挑戰權力

當我們意識到,數據工作實為一處於統治矩陣的權力事業時,接連而來的,就是我們該以什麼樣的方式去挑戰和改變這樣的權力運作?或者更精確的問,我們希望數據工作的目標,是去反映出既存的權力樣態,還是更進一步的採取行動來為社會謀善?而所謂謀善行動是否毫無疑義的具有共識?我們可以從許多有啟發的例子來思考這個問題。

從目前的數據工作計畫來看,我們可以將其性質約略分成照妖鏡和過濾器。前者如IBM於印度的Nishtha Madaan團隊(2018)對曼布克獎(Man Booker Prize)得獎小說中的性別刻板印象之分析。他們針對1969年至2017年間入圍該獎項的書籍(共275部小說),從Goodreads網站收集關於這些小說的描述和評論,發現其中普遍存在著性別偏見和刻板印象,比如女性角色被提及的次數少於男性角色;用來描述男性的形容詞是富有的,描述女性的則為美麗的、具有吸引力的;男性角色的人設是有權力的,女性角色則顯露為有所憂懼;男性角色的職業地位高於女性,多為醫生、科學家、董事長,女性則為教師、護士、妓女。

又如Emma A. Jane(2018)收集了線上性別仇恨的性挑釁、強暴威脅和攻擊語言的例子,透過運算程式集結成「隨機強暴威脅產生器」(The Random Rape Threat Generator,RRTG),可產生800億種獨特的強暴威脅和性羞辱、性辱罵的文字。這兩個例子,都宛若照妖鏡的存在,藉由數據工作來揭露了既存的社會秩序,前者看見了小說所反映的社會性別偏見,後者看見了性別仇恨的語言總是與強暴文化交織在一起的現象。

那何謂過濾器?我們可以將眼光放回到台灣的例子。第二屆性別暴力防治駭客松(2016/12/03-04)中的作品「Poly you」,以打造性別友善環境為發想,開發Google Extension套件,能將網路文本中含有性別歧視標籤的語句,置換為中性用語詞彙,藉此讓網路上的閱聽眾能減少面對性別歧視和暴力的噪音,並讓性別歧視標籤於社群傳播中消音。

同場活動的另一個作品「Go home」,則是以過濾危險地點的方式來打造預防性暴力跟蹤騷擾的App,將性別暴力的犯罪地點做成地圖熱點,讓使用者在回家的路上能避開這些危險地,規劃出一條安全回家的路線。這兩個例子都企圖作為一個篩網,前者篩去性別歧視的語言,後者篩去性別暴力的潛在威脅,藉此打造出性別友善的環境。

從挑戰權力的向度來看,照妖鏡的目標是反映出既存的社會性別秩序,讓我們看見權力之傾斜;過濾器的目標則是用行動謀善,希望能藉此篩出更友善的社會。然而,如此的謀善行動是否為具有共識的善,卻仍有著不同的遲疑聲音。比如,當性別歧視語言被演算法篩去並置換後,是否就意味著性別歧視消失了(可以想見當這樣的服務普及後,可能會有新的可閃躲偵測的性別仇恨語言出現)?當我們從女性用路人的角度來思索預防性暴力的解方,而未去挑戰處於更根源統治矩陣中的壓迫力量時,是否真能帶來根本的解放?

D’Ignazio與Klein(2020:86-87)便曾指出,我們的數據工作有可能在無意間助長了文化中流傳的缺陷敘事(deficit narratives),亦即,將某些文化或群體化約為受害者,而不去描寫其具有的力量、創意和能動性。如在數據工作中將女性描繪成被謀殺、強暴或親密關係暴力的受害者,讓這些女性的圖像都單一化為沒有能動力,需要政府、國際組織和公民拯救的受害者模樣。那麼,我們可以說這樣的數據工作確實是在為社會謀善嗎?

這些都是難以輕易下定論的反思與提問。Hooker(2018)和D’Ignazio與Klein(2020)對此給的解方,不約而同的都是:重視地方知識。如Hooker(2018)認為有技術的志願者(如駭客松參與者)因為對在地的脈絡並不熟悉,且也會受囿於自身熟悉的工具,因而經常會給出不適宜的解決方案。

同樣的,D’Ignazio與Klein(2020:180-181)也認為數據科學家經常是「數據庫的陌生人」,無法知曉數據生產和座落的脈絡,因而很容易在「馴服」數據的過程中造成認識暴力(epistemic violence),讓自己熟悉的觀點凌駕於在地知識之上。因此她們兩位採用女性主義立場論,主張在數據收集、清理、分析和溝通的過程中,都要重視不同的觀點和聲音(尤其是那些來自實際生活和身體體驗的觀點),並納入多元參與的可能。

因為單一一個數據科學家絕不可能對抗統治矩陣,但藉由參與式的、納入邊緣者聲音的設計型態,就有可能培力計畫參與者,讓數據工作於專家和社區間進行知識轉移,並帶動起社區的資訊基礎建設,創造出更具有創意、更有效、且更紮根於行動中的參與式數據計畫。而這也許就是用數據工作挑戰並改變權力的機會所在。

參考書目

  • Bassett, Caroline, 2012, “Canonicalism and the Computational Turn.” Pp. 105-126 in Understanding Digital Humanities, edited by David M. Berry. London: Palgrave Macmillan UK.
  • D’Ignazio, Catherine and Lauren F. Klein, 2020, Data Feminism. Cambridge: The MIT Press.
  • Hooker, Sara, 2018, Why “data for good” lacks precision. Towards Data Science.
  • Jane, Emma A., 2018, Systemic misogyny exposed: Translating Rapeglish from the Manosphere with a Random Rape Threat Generator. International Journal of Cultural Studies, 21(6), 661-680.
  • Kowalski, Robert, 1979, Algorithm= logic + control. Communications of the ACM, 22(7), 424-436.
  • Madaan, Nishtha, Sameep Mehta, Shravika Mittal, and Ashima Suvarna, 2018, Judging a Book by its Description: Analyzing Gender Stereotypes in the Man Bookers Prize Winning Fiction. arXiv preprint arXiv:1807.10615.

本文經厝邊頭尾話性別和《臺灣人工智慧行動網》授權轉載,原文發表於此

責任編輯:潘柏翰
核稿編輯:翁世航


猜你喜歡


迎接台灣黃金十年數位經濟熱!全球第三大網通商 Ubiquiti Inc. 入列護國群山艦隊,揭開研發總部落腳台灣的背後關鍵

迎接台灣黃金十年數位經濟熱!全球第三大網通商 Ubiquiti Inc. 入列護國群山艦隊,揭開研發總部落腳台灣的背後關鍵
Photo Credit:Ubiquiti Inc.

我們想讓你知道的是

到底台灣的優勢在哪裡,能夠讓世界第三大商用網通大廠 Ubiquiti(UI)2010 起就將全球研發總部佈局於台灣,更持續投資、重用在地人才呢?

這幾年台灣受惠中美貿易戰,外資大舉回流,加上疫情助長遠距協作、線上交易,各界看好台灣迎來新的黃金十年,搶抓數位經濟。

蛻變為數位韌性之島,網通設備正是數位轉型的不可缺少的基礎建設,特別是全球第三大商用無線網通解決方案大廠 Ubiquiti Inc.(UI), 2010 年正式將全球研發總部設於台灣。究竟,台灣有何強烈吸引力,讓這家美商持續加碼投資,深挖在地人才價值?

除了半導體,我們還有其他不為人知的台灣之光

未來要在全球舞台出頭,靠的是創新!世界經濟論壇(WEF)全球競爭力報告評比台灣連續兩年在「創新能力」,亞太區排名第一、全球第四。確實,除了舉世聞名的半導體晶片,還有其他可關注的面向,網通產業就是其中之一。

UI 台灣產品設計總監楊宗樺點出我們的強項,「UI 創辦人 Robert Pera 在事業開展初期,就是看中台灣有首屈一指的技術供應鏈,而且逐漸發現台灣不單單有硬體技術人才,還有軟體開發實力,因此持續擴大台灣在軟硬整合的統籌設計能量。」

02
Photo Credit:Ubiquiti Inc.
UI Taiwan 產品設計總監 - 楊宗樺

事實上,UI 研發總部設置台灣後這幾年的人數擴編態勢,正與他們的全球營收數據,呈現高度正相關。UI 在 2021 年締造 18 億美金營業額,過去五年平均營收成長近 30%,目前仍在快速飆漲中。

楊宗樺解釋,「2010 年台灣研發團隊僅 10 多位,後來持續奠定設計開發基礎,加上產品線多元化, 2017 年之後,成員數開始以翻倍速度增長,從 100 多位員工成長到今年預計招募規模上看 700 多人,UI 的創意心臟來自台灣,已是無庸置疑的事實。」

03
Photo Credit:Ubiquiti Inc.
UI 2021 年締造近 18 億美元營業額,過去五年營收快速成長。

台灣是孵化創新的首選場域,人才寶庫擁有三大優勢

04
Photo Credit:Ubiquiti Inc.
UI 位於台北信義區的台灣研發中心。

如今,UI 的產品原型發想、概念確認、功能驗證、再到產品落地,許多流程都是在台灣誕生,甚至 UI 的產品線也從消費型網通設備,跨足到辦公室 EoT(Enterprise of Thing)裝置、監控解決方案。除了仰賴研發總部有絕佳的實驗場域,充沛的人才能量,更是讓創意點子源源不絕的關鍵。

不光是 UI 讚許台灣有高素質人才,連同為外商的 Google 台灣人資長也曾表示,在 Google 眼中,台灣人才如「隱藏版珍珠」。有趣的是,Robert 早在十多年前「慧眼識英雄」,把研發基地瞄準台灣,而不選擇其他國家,正因為台灣人才庫有三大優勢。

「台灣有多元性人才是很重要的一點」楊宗樺回應,從軟硬體研發、產品規劃、行銷到生產人員,等於一條垂直供應鏈,都能找到對應的人選。其次是台灣的開放性,熟稔與國際團隊合作模式,展現快速反應能力與機動性,搭配最後一項能夠中英文溝通,呈現台灣人才獨特優勢。

曾有人說「台灣科技産業只能做代工,因為我們缺乏創意…」果真如此嗎?

楊宗樺表示,「台灣在過去產業分工模式,沒有獲得從零開始的規劃機會,並不代表我們沒有創新的實力。」自從 UI 把研發總部落腳台灣,等於幫在地的人才開了一扇連接國際的窗,更有機會打造世界級產品,甚至對產業發展扮演關鍵影響力角色。

UI 成長方程式:全方位展現品牌思維,優化與使用者的每個接觸點

除了營收亮眼,UI 之於網通產業所貢獻的價值,更來自破壞式創新的使用者體驗。有人這樣描述「UI 是網通界的 Apple 」,原因是 UI 打破通訊設備的冰冷,拿到產品一剎那,從開箱安裝到設定軟體,極簡設計風格消除繁雜的使用流程;同時產品外觀又能完美融入使用者的生活,兼顧「必需品」與「裝飾品」雙重價值。

不僅是在使用者體驗上的創新,UI 更跳脫單純販售產品的框架,而是以品牌服務思維,在每一個與使用者的接觸點,優化五感體驗。例如 UI 針對產品安裝邏輯,調整內容物的排列順序,甚至在外包裝的材質、氣味添加巧思,增加使用者開箱時的「wow」感受。

此外,聯網設備因應使用者的需求差異,以及所在地坪數格局不同,往往挑選型號之際感到苦惱。楊宗樺說,「我們除了完整揭露產品的技術細節,也考量到使用者在選購的時候,就獲得良好的體驗,我們 store.ui.com 網站提供試算建議功能,幫助消費者高效找到自身的需求。」

在 5G、低軌衛星高速發展的趨勢之下,可想見台灣對網通產業的投資只會有增不減,而 UI 入列台灣護國群山的一份子,期許自己扮演架橋角色,樂觀看待台灣下一波黃金十年。

所謂架橋任務,楊宗樺強調,UI 積極把全球視野與商機帶進台灣,也將台灣創新能量推展國際,不論技術優勢或是整合型產品,都能形成雙向的交流。尤其 UI 對人才培育下足功夫,希望透過持續耕耘,讓人才連結世界級的視野與思考經驗,驅動台灣網通產業邁向嶄新的時代。「我們期待聯手更多台灣優秀人才,在 UI 開創全新的職涯藍圖,與饒富創新想法的同仁一起打造更多元的産品,讓台灣之光在網通產業繼續發光。」

▲UI Taiwan 產品設計總監楊宗樺:在 UI,我們想打造改變世界的產品

了解更多 UI 企業文化與產品研發思維:
Life at UI Taiwan Facebook | Life at UI Taiwan Youtube


猜你喜歡