《信任革命》:中國信評計畫,就像《一九八四》加上巴伐洛夫的狗

《信任革命》:中國信評計畫,就像《一九八四》加上巴伐洛夫的狗
Photo Credit: Reuter/達志影像
我們想讓你知道的是

沒錯,如果我們不提高警覺,分散式信任將成為網路羞恥。生活將成為無休止的受歡迎程度的競賽,我們全都狂熱的爭取只有少數人達到的最高評分。

唸給你聽
powered by Cyberon

文:瑞秋.波茲蔓(Rachel Botsman)

你可以發現,中國所謂的「信評計畫」就像歐威爾的《一九八四》加上巴伐洛夫的狗。做個好公民,就會得到獎賞,讓自己的日子過得不錯。然而,值得記住的一點是,個人評分制度在西方世界存在已經有幾十年之久。

七十多年前,比爾.費爾(Bill Fair)和厄爾.艾薩克(Earl Isaac)兩個人發明信用評分制度。他們倆人在加州聖荷西的史丹福大學結識,費爾在工學院攻讀,艾薩克是數學系學生。他們兩人各出資400美元,成立公司。目標是採用「可預測的分析」(predictive analytics)以及新出現的電腦能力,讓銀行對一個人的信用風險有統一的看法。明白講,他們倆人希望採用演算法研究顧客過去的行為、預測未來的行為,以得出信用評分。當時,它被認為是一種激進的概念。

起先,信用評分的概念並沒受到重視。費爾和艾薩克發函給全美國50大銀行,說明此一新技術;只有一家回覆他們。但是,1958年,第一份信用評分出爐了——它通稱FICO,即費爾艾薩克公司(Fair Isaac Corporation)英文縮寫。多年來,它積極地挑戰許多銀行的作法和偏見。費爾艾薩克公司的廣告有一句話:「好信用並沒穿西裝、打領帶。」費爾艾薩克公司一再證明,種族不是衡量信用風險的好指標,因此拒絕把它列入他們的評分制度裡。

今天,各家公司無不採用費爾艾薩克公司評分以訂定許多財務決定,包括房屋抵押貸款的利率或是否該准予貸款。評分分數由300分至850分,分數越高代表對放貸銀行或保險公司的風險越低。但是挺不尋常,我們直到2003年才能查到自己的實際分數。在此之前,它們被當成祕密。儘管信用評等對我們的生活十分重要,一再的研究調查顯示,60%以上的美國人不知道他們的分數、或根本懶得去查。

就大多數中國人而言,重點不在曉不曉得自己的分數。在一種兩難困局下,他們從來沒有過信用評分,因此他們得不到信用融資。在中國許多人沒有房子、汽車或信用卡,因為沒有這類資料可供評比。中央銀行掌握了8億人口的財經資料,但是只有3億2000萬人具有傳統的信用歷史。根據中國商務部的統計,因為缺乏信用資料而致的年度經濟損失逾人民幣6000億元,約相當美金970億元。

中國缺乏全國信評制度,因此政府現在振振有詞說公民信評制度落後太久,迫切需要修復他們所謂的信任赤字(trust deficit)。在一個管理不善的市場裡,仿冒及劣質山寨產品泛濫,是個極大的問題。根據經濟合作暨發展組織的研究,63%的贗品,從手錶、名牌包到嬰兒食品,來自中國。 2008年底,中國衛生部透露在喝下攙雜三聚氰胺的嬰兒配方奶粉後,有6個嬰兒死亡、將近30萬人病倒;三聚氰胺是用在塑膠和肥料上的有毒化學品。調查結果發現,地方上有一家製造商故意攙入工業化學品,以掩飾配方奶粉蛋白質成分不足。自從這件重大背信事件之後,中國老百姓湧到海外、大量搶購嬰兒奶粉。這下子搞得英國某些大型零售商店,如Boots和Sainsbury's決定每人限購兩罐,以免餵飽了中國市場,自家人卻缺貨。

2017年1月,中國當局查獲約50家工廠組成的「生產基地」,專門製造幾可亂真的山寨版名牌商品。馬雲說山寨商品是阿里巴巴的「癌」,但是要清掃仿冒品,卻是艱鉅的戰爭。羅吉爾.克里彌斯說:「食品安全、仿冒品和缺乏遵循法規,是中國公民真正的大問題。這種微觀腐敗的現象十分嚴重。上上下下,信任在中國是個巨大的問題。因此,如果這個特定計畫促成更有效率的監督和問責,它頗有可能受到熱切歡迎。」

政府也辯稱,這項制度可以把被剔除在傳統信評制度之外的人納進來,譬如學生、低收入戶家庭和從來不曾借過錢的人。中國首都師範大學哲學及社會科學系教授王素晴最近爭取到政府委辦研究,要協助政府開發她所謂的「中國的社會信心制度」。她強調,沒有這種機制的話,在中國做生意風險很大,因為大約一半簽了字的合約都不被遵守。她說:「尤其是以今天數位經濟的速度,人們能夠快速查證彼此的可信度是非常重要的。大多數人的行為受到他們思想世界的決定。一個人若相信社會核心價值,行為就會正直。」換句話說,她認為這套制度不僅評估財金資料,它所評估的「道德標準」則是「紅利」。

的確,國務院的首要目標是提升「整個社會的誠實心態和信用水平」,以便增進「國家全面競爭力」。換句話說,政府提倡以公民信評為工具,以便更公平地評估人民、增進經濟活力。

是不是有一絲絲可能,在中國這樣一個有長久監視公民歷史的國家,這套社會信用系統,事實上是更受歡迎的、透明的監視方式呢?拉蘇爾.馬濟德(Rasul Majid)是住在上海的一位中國部落客,專寫行為設計和博奕心理學文章。他說:「我知道做為一個中國人,我在線上的一舉一動都被追蹤,那麼我是否寧願了解遭到監視的細節、採用這些資訊,教自己如何遵守政府的法令呢?或者我寧願活在無知、而希望/盼望/夢想個人隱私仍然存在,我們的統治機關會尊重我們到某個地步、不來欺壓我們呢?」 簡單講,馬濟德認為這個制度讓他略為能控制自己的資料。

一方面,社會評等制度幾乎肯定會鼓勵人民更誠實,和遵守規矩。另一方面,這是一個令人深感不安的信譽經濟學版本,它將使政府前所未有地控制他們認為好的和壞的行為方式。

當我告訴住在西方國家的人,中國在搞這套社會信用系統時,他們的反應很強烈。我曾在一次金融會議演講,有位女性銀行家評論說:「我們不時做出一些5年前絕對想像不到的事,但是這個主意絕對是老鼠屎的瘋狂。」她的警覺意識很典型。許多人曾問,真有這一回事嗎?它真的發生在中國嗎?奇異的是,很少人問起更切身的問題:「這種事會發生在西方國家嗎?」或是,我們預期它什麼時候發生在我們身上?

我們已經為餐廳、電影、書籍,甚至醫生評分。我們也看見Peeple是怎麼替人評分。你甚至可以在線上對你的排便拉屎評分(我不蓋你。不信的話,請點擊評分「我的便便」ratemypoo.com)。經常在Yelp上留下評論的顧客,被稱為Yelper,他們威脅旅館或餐廳,若不送免費飲料就會給它們負面評價。作者在亞馬遜上被評分。Airbnb的主人和客人是否整潔會被評分。老師受到RateMyProfessor.com評分。跑腿網站Taskrabbit的幫閒跑腿者受評,戶戶送(Deliveroo)外送人員和其他為數眾多的零工經濟工作者也受評(他們還能回過頭對顧客評分)。「雲端評分」(Klout scores)號稱可以找出最有影響力的社群媒體使用者,甚至出現在某些人的履歷表上,以資證明他信用卓著。Fitbit掌握你的運動量(或疏於運動),然後替你體能評分,並且與多家公司分享你的分數。在DateCheck這個應用軟體上,你可以就剛在酒吧結識的某個人進行背景檢查。它的產品口號恰如其份號稱「上鉤前先查看清楚」(Look up before you hook up)。臉書現在不需要看到你的臉孔,就有能力從照片中辨識出你;它只需要你的衣服、髮型和體型,就可以有83%的準確度找出你。這就好像相距100公尺,光憑我老公走路的姿態,我就能認出他來一樣。

2015年,經濟合作暨發展組織發布研究,它指出在美國每百名居民至少有24.9個連線裝置。各式各樣的公司都在檢查從這些裝置發出的「大數據」,想要了解我們的生活、渴望和心理狀況,想預測我們未來的行動,它們所用的方法我們自己都無法預測。

我每天上班搭上公車時,就戴上耳機。每天上午此一例行動作,使我在擁擠的公共空間似乎享有某種隱私。我的聆聽習慣,尤其是我下載的播客(podcast)、有聲書和新聞節目,是進入我政治偏好、生活壓力、宗教觀點和其他種種興趣的一扇清楚的窗子。假如有人知道我在聽什麼,會是什麼樣的狀況呢?

2017年4月18日,一家高端的音響器材製造商被人向芝加哥聯邦法院提出集體訴訟,罪名是它監聽顧客的聆聽習慣。本案帶頭原告凱爾.札克(Kyle Zak)花了350美元買了QuietComfort 35 耳機之後,接受博士音響(Bose)的建議「讓耳機展現最大功能」,因此把它的Connect 應用軟體下載到他的智慧手機。在加入過程中,他提供姓名、電子郵件地址和耳機序列號碼。和絕大多數人一樣,他沒有多做思考就交出個人資料。這個應用軟體增加一些功能,譬如可以客製化耳機取消噪音的程度。但是這個應用軟體也追蹤博士音響客戶聽的音樂、播客和其他音響節目,並且侵犯個人隱私權,把這些資訊賣給多家第三人,包括Segment.io 這家數據挖礦公司。博士音響被告之後,趕快發表聲明說:「我們將極力抵抗透過法律系統不利於我們的煽動、誤導的指控。我們最重視的莫過於你們的信任。我們竭盡全力爭取及維護它,已逾40年。這一點絕無改變,今後也不會稍改初志。」

不論這宗法律訴訟案最後的判決結果如何,博士音響這個案例引爆蒐集資訊涉及的倫理問題。事實上,有許多公司對於他們蒐集的資料、以及如何利用它們,並不透明;甚至如何利用我們的個人資訊取得金錢好處,也是諱莫如深。這不僅限於咖啡機、耳機、跑鞋,甚至連性愛玩具也是。2017年,We-Vibe付了375萬美元和解金,化解按摩器可用智慧手機的Connect Lover應用軟體,遙控啟動所引起侵犯隱私的提告。這種性愛玩具祕密蒐集客戶資料,包括每次使用的日期和時間長短、訂定的溫度和震動強度、使用者選用的方式等高度私密的細節—而且全部資料都連結到玩具主人個人電郵地址。這些資料若是遭駭客侵襲,會怎麼樣?我們會希望業者(或甚至政府)知道我們是如何享受魚水之歡,以及我們性高潮的詳情嗎?2017年4月,另一種智慧型性愛玩具的私密監視功能,也面臨極嚴重的安全漏洞。Svakom Siime Eye是一款售價249美元,以應用軟體啟動的按摩器,它內建的微型攝影機可以私下直播匯流、或「知道在你私處之內微妙的改變」。廠商為它設定的任意密碼是88888888。買主若不重新設定密碼,按摩器很容易遭駭。甚且,只要它在使用狀態,製造商「標準創新公司」(Standard Innovations)就能透過全球定位系統知道它的位置。

智慧手機和電腦攝像頭可以用在商務用途,也可以助虐為虐。下一個可能做為間諜工具的是數位語音助理,如現在已經進入數百萬人住家的亞馬遜Echo 智慧音箱愛麗莎(Alexa)。愛麗莎的產品口號非常貼切,就叫「儘管開口問」(Just Ask)。這位人工智慧助理很樂於聽命服務,你問,「愛麗莎,今天我的行事曆排了什麼事要做」,她立刻一一提醒;你說,「愛麗莎,播一首我愛聽的歌」,她立刻聽命執行。當然,她會特別貼心幫你買東西—用不著多說,是向亞馬遜訂購。但是,如果她被傳出庭當兇殺案證人,會是什麼狀況?

2015年11月,阿肯色州警員維克多.柯林斯(Victor Collins)陳屍好友詹姆斯.安德魯.貝慈(James Andrew Bates)家的熱水浴缸。貝慈成為兇嫌。兩年後,這一樁第一級謀殺案的公訴檢察官納丹.史密斯(Nathan Smith)命令亞馬遜交出貝慈家中Echo音箱中數位助理的錄音紀錄。固然任何一個凶殺案嫌犯不可能會問:「愛麗莎,我要如何勒殺某某人然後藏屍呀?」但檢方覺得錄音紀錄可能提供寶貴線索,了解柯林則遇害當晚、貝慈家發生什麼事。

亞馬遜的律師主張,數位助理享有美國憲法第一修正案的權利,這項裝置蒐集及發送的資訊應受到保護。可是,貝慈告訴亞馬遜,它可以交出資訊。他或許相信它可以證明他無辜,不過也有可能貝慈認為Echo裝置只會在「聽到」指令期間及稍後幾秒鐘紀錄下片段音頻。除了其他議題之外,這個案子引起一個關鍵問題:你怎麼知道你那永遠連線的數位助理是在什麼時候記錄你說的話?

現在積極投入這方面研發的並不只是科技公司。世界各國政府也已經介入監視、評分和分類本身公民的活動。美國國家安全局不是政府唯一監視公民生活的數位眼睛。2015年,美國運輸安全管理局(US Transportation Security Administration, TSA)悄悄地提議,擴大「預先檢查」(PreCheck)的背景檢查(能讓你旅行時快速通過安全檢查的一種預檢),包括檢查社群媒體紀錄、地點位置資訊和採購歷史等資訊。這個構想在遭到猛烈批評後作罷,但並不代表它就此壽終正寢。沒錯,2017年2月,川普總統上任不久,就提議要強迫某些人在入境美國時,要交出他們的臉書、推特、谷歌+、Instagram、Youtube、LinkedIn等社群媒體的密碼,以便當局可以檢查他們的網上活動。美國政府表示,此一「極端的檢查」規定主要將運用在來自伊拉克、伊朗、敘利亞、葉門、索馬利亞、蘇丹和利比亞等七個穆斯林國家的旅客,這項旅行禁令引起極大爭議。國土安全部長約翰.凱利(John Kelly)告訴國會國土安全委員會說:「我們要拿到密碼,檢查他們的社群媒體,了解他們做了什麼?說了什麼?如果他們不願合作,那就不用進來呀。」

如果你還是不相信隱私不僅陷入危險、還已經消滅,不妨再看下一個例子。優步有一種工具,公司替它取了一個令人感到不祥的名字「天視」(God View)。直到最近,它允許所有的員工不需取得任何核准,都可在第一時間取得和追蹤每一趟優步載客何時何地的起點和終點。你遲到趕不上約會?優步知道真正的原因。更令人震驚的是,公司可以分析資料以預測「光榮之旅」(Rides of Glory, RoG)—優步一位數據科學家在部落格裡用這個字詞來描述追蹤性約會。優步把這些乘客稱為光榮之旅乘客,他們在週末夜晚上10點至清晨4點之間叫車,隔了幾個鐘頭後又從原先下車地點叫車,送他回家——顯然是和小三纏綿後才打道回府。

2014年,優步資深副總裁艾彌爾.麥可(Emil Michael)把公司的「天視」發揮得更淋漓盡致。他建議使用這個工具監視《潘多日報》(Pando Daily)記者莎拉.雷西(Sara Lacey)的乘車紀錄和地點位置;這位直言無諱批評優步的記者,最近指控優步「性別歧視、蔑視女性」(sexism and misogyny)。甚且,麥可還在影星艾德華.諾頓(Ed Norton)和雅莉安娜.哈芬登(Arianna Huffington)等人出席的一次晚宴上大放厥詞,聲稱公司應該花費百萬美元、利用地點數據去挖掘批評優步的其他記者之黑材料,以便逼他們閉嘴。他建議「挖掘他們的私生活、他們的家庭隱私」,讓媒體嘗嘗遭到深入報導刨根究柢的滋味。莎拉.雷西事件遭到紐約州檢察長艾瑞克.史奈德曼(Eric Schneiderman)起訴,後於2016年1月和解。史奈德曼檢察長說:「這項和解保障了優步乘客個人資料不致於受到公司高階主管及員工的濫用,包括乘客在優步汽車上第一時間的位置。」根據和解條件,優步僅需支付區區兩萬美元罰款,「天視」現在僅限特定「指定員工」基於「正當商業用途」才能使用。問題解決了嗎?才怪。

我們已經活在一個預測演算法的世界,它判斷我們是否是可賺錢的顧客、有無威脅、風險高低、優秀公民,即使我們已經是值得信任的人。我們越來越接近中國的制度——把信用評分擴張進入生命評分——即使我們不知道它正在發生。照片、書籍、音樂、電影、交友,甚至金錢都已經數位化。我們現在正處於數位化身分和信譽的早期階段。

那麼我們是否無可避免地步向我們全將在網上貼上品類標籤?態勢很明顯,肯定是走向那個方向。除非以某種群眾公民反抗搶回隱私和個人資訊,我們正邁入一個時代,個人的行動將受他們無法控制的標準所評斷,而且判斷無法抹殺。結果不僅令人不安,而且它們還永遠存在。別去管什麼刪除的權利、及被遺忘的權利。遺忘是幼稚、愚蠢的東西。

這也是為什麼至少我們迫切需要找到方法創造對瘋狂、低能或欺騙時刻的原諒。删除不應是非法行為。人類雖有種種缺陷、未臻完美,卻絕對不僅只是一個數字。

固然要制止這個新時代可能已經太遲,我們卻有選擇及權利現在去行動。有一個重點,我們需要能夠替評分者評分。凱文.凱利(Kevin Kelly)在他的著書《必然》(The Inevitable)中,描述未來世界,觀察者和被觀察者將透明地、不停地彼此追蹤。他寫說:「我們現在的能做核心選擇是,這種祕密、單向圓形監獄似的監視—或是一種相互、透明的『共同監視體』(coveillance)。第一種選擇是地獄、第二種是可拯救。」

我們的信任應該從政府內部的個人開始(或是從控制系統的組織開始)。我們需要信任機制以確保評分和資訊是得到我們允許、負責任地使用。我們已經看到,若要信任系統,我們需要降低未知數。這指的是採取措施,降低評分演算法的不透明。反對強制揭露的論述是,如果你知道在帽子底下發生什麼,系統就越有可能遭到竄改或駭入。但是,如果要把人類降低到只憑評分、就可能對他們的生活產生重大影響,則評分的作業方式就必須完全透明。

在中國,某些公民,譬如政府官員和企業領袖似乎被當做超乎制度之上。當他們的不當行為似乎並未影響他們的分數時,民眾會有什麼反應?我們可以看到3.0版巴拿馬文件的信譽詐騙。

想知道持續不斷監視及評分的文化會發展成什麼樣子,目前為時尚早。當這些制度影響全國人民社會、道德和財務歷史發揮到極致時,會是什麼樣子?長久以來在中國即處處受限的個人隱私和言論自由,會受到多大的更進一步摧殘呢?誰來決定制度往哪個方向走呢?這些是我們全體必須考量的問題,而且很快就需要思索。今天的中國,明天就是靠近你的地方。關於信任的未來,真正的問題不在科技或經濟,它們是倫理上的問題。

沒錯,如果我們不提高警覺,分散式信任將成為網路羞恥。生活將成為無休止的受歡迎程度的競賽,我們全都狂熱的爭取只有少數人達到的最高評分。

相關書摘 ▶《信任革命》:毒販關心他們的網路信譽,不下於Airbnb的主人

書籍介紹

本文摘錄自《信任革命:信任的轉移與科技所扮演的角色》,遠流出版
*透過以上連結購書,《關鍵評論網》由此所得將全數捐贈兒福聯盟

作者:瑞秋.波茲蔓(Rachel Botsman)
譯者:林添貴

什麼是「信任」?就是對於未知的人事物感到放心的關係。
世界知名共享經濟及信任議題專家——瑞秋.波茲蔓第一本專書,
全面性、系統性討論「信任」對經濟型態、商業模式與消費行為的重要性及科技對其產生的影響。

  • 2008年,Airbnb提出共享住宅的構想,平均每天有將近200萬人投宿在他們安排的房子。
  • 2009年,自稱中本聰的日本人按鈕釋出第一批的50枚比特幣,提出「區塊鏈」的概念,被《經濟學人》譽為是「建立信任的機器」。
  • 2009年,Uber成立。每天有500多萬人打開Uber的軟體,幾分鐘內就坐上一位陌生人的車。
  • 2014年,阿里巴巴創下紐約證券交易所有史以來最高的全球首度公開上市募集金額。中國有80%以上的網路交易透過其旗下的網路市場進行。
  • 2014年,中國國務院公布〈社會信用體系建設規劃綱要〉。個人行為受政府訂定的規則評分,並昭告天下此人是否值得信任。
  • 2016年,世界經濟論壇將「大規模的網路錯誤訊息」列為社會最大的危險之一。2017年全球信任測量調查中,傳統媒體在28個受測國家中不受信任度高達82%。

以上幾個看似不相干的例子,卻揭示我們處於社會變革的轉捩點──瑞秋.波茲蔓指出,一個新的世界秩序正在形成:我們可能對專家和領導者失去信心,卻願意相信機器人、臉書演算法或虛擬貨幣。這是「分散式信任」的時代,這是一種由重寫人際關係規則的創新技術驅動的轉變。她同時也提醒大家如果要從這種激進的轉變中受益,我們必須了解在數位時代如何建立、管理、丟失和修復信任的機制。

本書特色

世界知名共享經濟及信任議題專家——瑞秋.波茲蔓第一本專書,全面性、系統性討論「信任」對經濟型態、商業模式與消費行為的重要性及科技對其產生的影響。

說明「信任」的演變,以及「分散式信任」的興起與未來挑戰。

getImage-3
Photo Credit: 遠流出版

責任編輯:潘柏翰
核稿編輯:翁世航