大數據社會控制:中國父母評分太低,孩子別想唸好學校

大數據社會控制:中國父母評分太低,孩子別想唸好學校
Photo Credit: Corbis/達志影像
我們想讓你知道的是

擁護中共領導是中國企業的固有文化,經營微信的企業巨人騰訊,就在總部門口樹立著「跟黨一起創業」的標語。

唸給你聽
powered by Cyberon

文:王松蓮(現任「人權觀察」中國問題資深研究員)

作為中國群眾監控系統的研究者,對於數據行銷公司劍橋分析(Cambridge Analytica)的劣行被揭發,以及關於臉書隱私政策的辯論,我特別感興趣。許多方面看來,中國讓大家瞭解到收集數據而缺乏監督的危險──美國或任何其他國家都不該步其後塵。

在中國,社交媒體業者可能將客戶資訊交給惡意、侵犯人權的第三者,這並不令人訝異。中國社交媒體業者必須將所有個人使用者數據儲存於中國境內,以便情治機關必要時可以取用──例如當他們調查反黨言論時。

雖然大家越來越關注中美兩國在人工智慧方面的競賽,卻少有人注意這項競賽在保障人權方面逐漸成為一場向下探底的競賽。部分觀察家已經警覺到,中國有可能在人工智慧發展上勝過美國,因為中國開發者掌握的個人數據較多,但受到隱私權的限制較少,即使相較於隱私保護較弱的美國也是如此。

當然,在中國不必太關心數據行銷業者可能在選舉時「亂搞」──畢竟中國根本沒有真正的選舉可以亂搞,我們也不需要去考慮這些業者可能為哪一個政黨去攫取權力──因為只有一個政黨。事實上,擁護中共領導是中國企業的固有文化,經營微信(對中國人來說如臉書一般不可或缺的軟體)的企業巨人騰訊,就在總部門口樹立著「跟黨一起創業」的標語

身處中國的朋友也不必懷疑大數據會不會被用來操縱人民,因為我們已經知道他們正在這樣做。確實,許多中國的數據分析系統擺明了是用來從事社會控制。

在美國,信用評分、預測式警務和有關保釋的「風險評估」軟體、以及靠著有問題的演算法運作的其他工具,已經導致貧窮人口和少數社群被邊緣化,權利難保。在中國,缺乏人權保障的分析所造成的後果更令人擔憂。人權觀察2017年11月曾揭露,一個名為「警務雲」的新型全國性大數據系統,被用來監測和追蹤各種被稱為「重點人員」的人士,包括精神障礙者、不滿政府者,以及新疆地區被打壓的維吾爾族穆斯林人口。

我們發現另一種大數據系統也被用來監視維吾爾人。這個系統名為「一體化聯合作戰平台」,可以偵測偏離「常態」的活動,例如欠繳電話費,並且以此作為個人可能在政治上「不可靠」的指標。該平台會自動舉報異常人員,有關當局便以矯正思想的名義使他們遭受不經司法程序的無限期拘押

同時,中國政府又開始實施另一種稱為「社會信用體系」的全國大數據系統,藉著對公民從購物習慣到網上言論的各種行為進行評分,逐步打造一個沒有問題的社會。信用分數偏低者將四處碰壁,從報考公職到為孩子選擇學校都成問題。

和劍橋分析醜聞不同的是,我們不會看到中國發生公開的抗議,不論是針對政府的高科技監控與數據分析,或是針對企業侵犯隱私,都是如此。中國媒體雖然也會報導私人公司濫用數據的問題,但相關討論都受到嚴謹限制,防範它轉為批評政府或任何政治議題。在中國境內,有關國家監控的報導會遭封鎖或抹消盡淨。任何網民若將我們發佈的警務雲調查報導轉貼到中國知名網路論壇,不出幾小時,所有留言就會被感測系統徹底刪除。

中國政府利用個人數據發展群眾監控和人工智慧項目的做法,足以說明缺乏監督加上威權主義將對人權造成何等危險的後果。即使在民主國家,監控的權力也將侵蝕民主制度,使政府權力過分膨脹而凌駕人民。

我們需要更多、更適當的規則來保護隱私,避免數據收集和人工智慧將我們所生活的世界變得難以忍受。圍繞劍橋分析而起的辯論,正是呼籲相關改革的契機。

本文為Just Security授權中文刊登,原文發表於此:Cambridge Analytica, Big Data and China

責任編輯:羅元祺
核稿編輯:翁世航

或許你會想看
更多『評論』文章 更多『國際』文章 更多『人權觀察』文章
Loader