我曾每天與朱克伯格單獨開會,如今我對Facebook失望至極

我曾每天與朱克伯格單獨開會,如今我對Facebook失望至極
photo credit: AP/達志影像
我們想讓你知道的是

最初我認為臉書是受害者,但經過美國選舉、英國脫歐的假新聞、以及使用者資訊被出售的消息等等後,我非常的震驚與失望,朱克伯格與雪柔已被成功的慾望沖昏頭,他們已經不顧後果地去做一些不應該做的事情了。

唸給你聽
powered by Cyberon

文:Roger McNamee
譯:韓詠翔

我對臉書真的很失望。

我加入這間公司已超過十年,直到幾個月前,我都對這家公司的成功感到自豪。但現在我對這家公司只有失望。我感到尷尬,甚至羞恥。臉書擁有超過17億的使用者,是全世界最具影響力的公司之一。不論臉書自己怎麼想,它都是一個具有高度政治與社會影響力的科技公司與傳播公司。臉書高層做的每個決定都將改變許多活生生的人的生活,所以高層應該要為每個決定負責。如同他們從那些巨大的成功中獲得榮耀一般,他們也應該為他們的錯誤負上責任。

但是最近,臉書做了一些很糟糕的事情,而我也無法再繼續為它辯解了。

時間來到2016年11月美國總統大選的九天前。我寄了一封電子郵件給臉書的創辦人朱克伯格(Mark Zuckerberg)與營運長桑德柏格(Sheryl Sandberg),內容是一篇尚未發表的社論,是我寫來記錄我這幾年看到的臉書的問題。幾年前,我發現一系列朋友分享的令人不安的圖片,這些圖片來自於一個臉書群組,且表面上與柏尼.桑德斯(Bernie Sanders)的競選廣告相關。由於很難想像這些圖片會與柏尼.桑德斯有關聯,所以我想告訴桑德柏格和朱克伯格有心人士想要利用臉書的架構與營運模式來對無辜的人造成傷害,而我對這件事情有多麼的恐懼。

我是一位長期的技術投資者與傳播者,科技一直是我的事業與熱情所在。我曾是朱克伯格早期的顧問、同事與朋友,也是臉書早期的投資者之一。這十年來,我一直深深地信任他,幾乎每天早上我們都在他的辦公室裡開會,而且通常只有我們兩個人。雖然我們總是處在一起,但我對他的了解仍不是很全面。我喜歡朱克伯格、喜歡他的團隊、喜歡使用臉書。我是他在面對新挑戰與困難時最先想到的人之一。指導朱克伯格對我來說很有趣,且朱克伯格也是一個完美的被指導者。我常常分享一些我的經驗,而朱克伯格也總是按照我的建議去採取行動。

當我寄那封電子郵件給朱克伯格與桑德柏格時,我認為臉書是一個受害者。直到這幾個月來我看到關於2016選舉的假新聞、關於英國脫歐的假新聞、以及使用者的資訊被出售的消息等等後,我非常的震驚與失望。我花了很長的時間才接受朱克伯格與桑德柏格已被成功的慾望沖昏頭了的這個事實,他們已經不顧後果地去做一些不應該做的事情了。

我從來沒有理由去攻擊臉書,即便是寫這篇文章的現在,我仍持有臉書的股份。但是我對公司的批評是一個原則問題,且持有其股份更恰好可以彰顯出這一點。我開始行動是因為我是第一批看到災難正在蔓延的人,而我與這間公司的淵源讓我的聲音變得更具可信度。

這是一篇關於我的經歷的故事,也是一篇有關權力的故事:有關特權、信任以及它怎麼被濫用。

AP_18100683293840
photo credit: AP Photo/達志影像

臉書巨大的成功最終導向了一場災難。它的營運模式建立在收取廣告費用,而這反過來說就是取決於如何操縱更多的用戶看到這些廣告。吸引注意力最好的方法是訴諸恐懼與憤怒等情緒來增加參與感。臉書的演算法讓用戶看到他們想看到的東西,所以每位用戶在臉書上看到的資訊都是一個獨特的現實世界。除此之外還會過濾掉與該用戶意見不一的資訊,營造一個大部分的臉書用戶都與自己持相同意見的假象。

讓臉書用戶只看到同溫層的聲音對臉書的營運模式來說是有利的,但是許多研究指出這樣的模式同時也增加集權的可能性,也會傷害民主的發展。

臉書用盡各種可能的方法獲取資訊來改善自己的演算法。不久之前,臉書監控了所有的人,包括那些不使用臉書的人。不幸的是,臉書並沒有保護好大家的資料,甚至會在某些時候出售資料來獲取商業利益。這些事情不僅讓臉書的用戶數量與用戶在線時間增加,同時也讓臉書的廣告事業獲得巨大的成功。

從2012下半年到2017年間,臉書完善了一個新的想法:增長駭客(Growth hacking)。它不斷地嘗試新的演算法、新數據類型以極微小的設計改動來測量一切。增長駭客讓臉書能更有效率地運用它收集來的海量資料庫賺錢,也因此讓臉書為了達到這個目的而不顧一切後果。

在增長駭客的世界中,用戶不再是一個個活生生的人,而是用來賺錢的工具。每次用戶在臉書進行一個動作,就會讓臉書更加認識這個用戶以及該用戶的臉書好友,而臉書就依靠這些資訊來優化用戶的使用體驗;也就是說,臉書能夠更好地操縱用戶的注意力。任何廣告商都能透過付錢來讓自己的目標客群看到自己的廣告,俄羅斯就是其中的受惠者之一。

社會責任是企業很重要的一部份,但我從來沒有看到它在臉書內部有被正式討論過。

臉書的工作人員活在自己的幻想泡泡中。朱克伯格始終相信將世界上的所有人連結起來是一件非常重要的任務,重要到可以正當化為了完成它所做的任何行動。深信著這項使命的神聖使朱克伯格與他的員工們,即便聽到批評的聲浪仍不願改變其行為。

近期,他們對於批評的處理方式,與他們一開始造成問題的方式仍完全如出一轍:更多人工智能、更多程式編碼以及更多的短期維修。他們不願意真正做出改變,因為他們是壞人。他們這樣處理,是因為他們已經被成功的甜美果實蒙蔽了對現實世界的認知。他們無法想像最近發生的重大問題完全源自於他們的設計或是企業決策。他們永遠不會聽取批評者的意見,因為他們認為即便加上與批評者有聯繫的人,該人數也比改變做法要重新拓展業務的人數少得多。

因此,當種種證據顯示假消息與假新聞充斥臉書頁面且可能影響英國公投結果獲美國大選結果時,臉書的回應就如同它創立時就寫好的劇本一般,否認、推託、轉移注意以及充耳不聞。臉書只有在被強迫時才會控管假消息,並保護好大家的個資。然後才會來到B計畫:道歉,並承諾做得更好。

AP_986219075053
Photo Credit: AP/達志影像

由於臉書的巨大成功,朱克伯格的名號在科技圈內有如搖滾巨星或是宗教領袖般令人瘋狂。他投注了所有的心力在產品上,而對他丟給桑德柏格的業務完全沒有興趣。根據一些相關報導,朱克伯格以微觀管理產品與富有決策力聞名。朱克伯格是無可爭議的老闆,但是他的下屬透過研究他已經逐漸掌握影響他決策的技巧。桑德柏格聰慧、富有野心且具組織能力。鑒於朱克伯格的創始人地位,臉書團隊不論處於上升期或正面臨嚴峻挑戰,很少(如果曾經有過的話)會有人去挑戰朱克伯格的意見。(一位臉書發言人表示:人們總是不同意Mark的意見。)

你可能會認為臉書的使用者應該會對臉書這個社群平台傷害民主發展、基本人權、公眾健康與革新這件事情感到憤怒,確實,有些人的確為此感到憤怒,但是還是有將近15億的用戶每天使用臉書。這些用戶透過臉書與遠距離的親人或朋友保持聯繫,並樂於透過臉書分享照片與想法。他們拒絕去相信這個他們已經使用習慣的平台正是要為諸多問題負責的元凶。

臉書運用我們對家人以及朋友的信任建立這世界上最有價值的企業,但在過程中卻不在乎用戶的私隱、透過演算法讓用戶變得不再獨立思考並深化了民主所面臨的困境。有心人士利用用戶對臉書與谷歌的信任來散播假消息與仇恨言論,改變投票結果並分化許多國家的人民。這些有心人士將會一直這樣做下去,直到我們站出來重申我們的自主權。

法國;黃背心
Photo Credit: Reuter/達志影像

我們需要開始在這些領域重建對臉書與大數據科技的認知:

  • 民主

民主取決於分享正確的資訊與價值;取決於審議與法治;取決於自由的媒體與制衡媒體的監督力量。臉書(其實谷歌與推特也是)已經從兩個方面降低了媒體的自由度:其一,他們正在侵蝕媒體業的市場並以假資訊取而代之。在臉書上,資訊真偽難辨,唯一的差別在於假資訊能創造更多的利益,所以更容易生存。在這個脈絡下,臉書的演算法讓極端言論出現的機率大於中立言論、陰謀論出現的機率大於事實出現的機率。思想類似的人能夠互相交流想法,不過同時他們也可能完全看不到相反立場的言論。

以臉書或谷歌的規模來看,這兩家企業對於民眾或是國家發展的影響似乎是無法避免的。

近期發生的事情,顯示了社群網路確實對民主造成了傷害。臉書、谷歌與推特為保護未來選舉而做出的努力可能是真的,但也沒理由相信除此之外他們會做更多事情而不是與那些試圖干預他們的人來場打地鼠的遊戲。唯有從營運模式最根本的地方做出改變才能減少對民主的傷害。臉書同時也成為弱勢國家的威脅。雖然臉書的免費服務為世界上將近60個國家帶來了網路服務,但是這些國家卻付出了深化社會分歧的代價。缺乏語言能力與文化敏感度讓臉書沒有察覺到他們的產品可能會對毫無反抗能力的弱勢族群造成傷害,而這糟糕的事實正在斯里蘭卡與緬甸上演。

  • 私隱

臉書也對私隱造成了威脅。

這家企業對於收集情資的能力甚至能讓情報機構感到驕傲,但對於它處理這些資料的方法則不敢苟同。臉書應該免費提供用戶操控自己想接收到的資訊與搜尋結果的功能,也要讓用戶自己決定是否提供各資給企業使用以及使用的狀況為何。用戶要有權力知道每個擁有它們資料的組織或個人的名字。這些規範不僅應該適用於社群網路平台,也應該適用於提供資料儲存系統的企業以及持有他人個資的第三方團體。

另一個重要的規範是資料的可移動性,要讓用戶能夠從任一平台移動任何有價值的資料到另一個平台。這將讓新創公司更容易跨越用戶不足的困境而被更多使用者使用。同時,社群平台也應該對用戶、廣告商以及管理者更加透明。

  • 掌握自己的資料

用戶應該一直掌握自己的資料和元資料(metadata),且在提供這些資料的時候應該得到更好的補償。沒有人可以在得到事先明確的同意之前使用他人的資料。相較於現有財務報表,由第三方審議的演算法更能提升必要的透明度來降低不好的結果。

在Alexa或Google Home大量普及之前,我們的當務之急是設立規範,讓我們能透過私隱設定來決定哪些種類的資料可以被收集,因為智慧型裝置目前就像是不受控的數據收集器,被拿來濫用的機率非常大。

最後,我希望在證明人工智能是為人類服務而非奴役人們之前,能夠不要大量使用。這個目的可以透過類似美國藥物和食品管理局(FDA)的技術來實現。

  • 管制

如果純粹從投資人的角度來看臉書、谷歌與推特的話,我無法不欣賞它們為了獲利而執行的計畫。但問題在於這些計畫所造成的後果卻是遠遠超過我們所能承受的。谷歌與臉書之所以會獲利是因為它們並不用為它們所造成的後果付出代價。

歷史上,美國的經濟對新創公司的依賴遠遠超過其他經濟體,尤其在科技領域更是如此。如果我的猜測正確,現在這種把創新、經濟成長與創造工作機會的任務通通交給獨佔企業來做的行為無疑是一場巨大的賭博。

谷歌、亞馬遜與臉書都按獨佔者的劇本行動,建立了自己核心利益的「禁區」。它們的成功也增加了新創企業存活的難度、縮小獲得巨大成功的機會、迫使創業家提早出售想法或被迫追尋潛力更小的機會。這些大企業收購有可能構成威脅的企業來築起一道無法跨越的牆。其實這些企業根本不需要阻止新創公司的發展來自保,只不過它們會忍不住這樣做罷了,因為這就是獨佔者會做的事情。

從經濟政策的角度來說,我想要對臉書、谷歌與亞馬遜這種獨佔企業設下規範,限制它們的可操作空間,因為打破它們的壟斷可以為整體經濟帶來利益。第一步先從防止收購開始,並同時禁止跨平台的相互補貼與數據共享。我傾向於規範會對經濟造成傷害的行為,而有效率的規範將能有效改變企業的營運模式。

與現有的規範作比較,這些建議看似極端,不過這也是唯一一條可以保護小孩、成年人、民主與經濟的道路。我們的父母與祖父母也曾經因為香菸的危害而開始管制香菸,如今正是對網路平台做出相同事情的時候了。

  • 人為操控而非演算法

從科技的角度來看,最有前景的道路是透過創新來創造利潤,而如今的社群平台對於創新的影響力已經過於巨大。反托拉斯法或許可以促進創新,不過我們需要的不只如此。在美國,如果我們想要解決某個問題,通常都可以將問題與利益作出結合來促發動機。因此我建議矽谷可以將發展人為驅動科技(人工智能的反面)視為「下一件頭等大事」,將科技的發展重點從利用人類心理學上的弱點,轉變為增加用戶權限的承諾。

人為驅動科技將會賦予用戶權限而非利用他們。人為驅動的社群網路能夠在分享資訊給朋友的同時避免大範圍的監控、個資外洩與加厚同溫層(filter bubbles)等問題。為鼓勵新創公司採取良性商業模式,我們應該給予保護。由於社群媒體是一個實實在在的公共利益問題,我認為值得考慮更加積極的作法,像是政府對於良性企業的補助等等。政府會補助像是開發新能源、農業或是其他政府認為重要的經濟活動,那麼也不難想像民間負責的社群媒體有相同的重要性以致於需要政府補貼,而補助的種類可以是研究經費、新創公司的資本或是租稅優惠等等。

「下一件頭等大事」讓我們有機會重新思考網路的結構問題。舉例來說,我希望透過一個新的網站訪問認證模式來解決私隱問題,讓網站在進行傳輸的時候只能擷取最低限度必要的資訊。這個模式的運作就像是一個密碼管理員,不過有著一些重要差別:他不僅可以在私人裝置上儲存密碼,個人的資料也同樣儲存在此裝置而非雲端內。蘋果系統已經開始使用這個模式,為其用戶提供了優於安卓系統的私隱保護功能。

  • 成癮

網路平台所造成的所有公共健康問題皆來自於設計選擇。

科技能創造說服力,而刊登廣告的財務誘因保證了說服永遠是每個設計的隱藏目標。每個網路應用程式的每個像素都被調整過以用來改變使用者的行為。不是每位使用者都會一直被影響,但是基本上每位使用者都曾經被影響過。在最極端的案例中,使用者成癮程度會嚴重到影響生活品質,並對家人、同事以及朋友帶來巨大困擾。我們不知道網路成癮影響了多少人,不過根據傳聞受其害者也不在少數。

數以百萬計的人每天起床第一件事情就是察看手機,順序甚至排在他們起身上廁所之前;也很多人反應難以入眠的原因在於他們無法停止使用手機或電腦。每天使用臉書的人都有可能有不同程度的成癮現象。即使一位成癮者了解成癮的潛在傷害,他們還是無法自拔地繼續使用手機,要改變這個行為需要的不僅是自律。我們急須有人對打擊網路成癮的研究進行投資來對抗這個現象。

  • 保護孩童

越來越多的孩子寧願接受虛擬世界中的高度刺激,也不願去體驗現實世界。

像是Instagram這類的產品也增加了霸凌現象,傳遞訊息已逐漸取代面對面溝通,這些都是我們孩子所面臨的問題。目前我們很難知道該如何處理這些問題,也有些醫學研究提出警告目前網路成癮的現象,就像是在進行一場未受監控的心理學實驗。醫學研究普遍傾向於對網路成癮進行管制,像是限制可以開始使用智慧型手機或筆電的年齡,因為已經有證據指出這類的產品將會對孩子的注意力造成影響。

Depositphotos_125871668_m-2015
Photo Credit: Depositphotos

由臉書及其他社群平台的營運模式所造成的對公共健康、民主、私隱以及公平競爭的傷害必須要改變。作為用戶,我們對企業的影響力超乎我們的想像。我們可以改變我們的行為模式、發起一場政治活動、堅持倡議政府應該支持人為驅動科技來取代人工智能等等。與此同時,政府應該要著手修復由社群平台所帶來的危害,應該要重建交流機制、與跟我們意見相反的人找尋對話的基礎並再次處得像是同一個國家的人民一樣。

臉書以及其他類似的社群平台所帶來的政治以及社會影響,對我們這種民主國家來說不健康且不適當的。我們一定要能控制住它們,讓它們為自己的行為負責並且在現實世界中找出處理這些問題的方法,而不是試圖用更多的電腦程式來解決所有問題。

© 2019 Time Inc. 版權所有。經Time Inc.授權翻譯並出版,嚴禁未經書面授權的任何形式與語言版本轉載。

責任編輯:丁肇九
核稿編輯:翁世航

或許你會想看
更多『評論』文章 更多『layout.economy』文章 更多『TIME』文章
Loader