隱藏在資訊洪流中的「社會操縱」:讓你「把意見當成現實」的神秘力量

隱藏在資訊洪流中的「社會操縱」:讓你「把意見當成現實」的神秘力量
Photo Credit: Shutterstock / 達志影像

我們想讓你知道的是

利用操縱訊息影響受眾以達到特定目標的手段,在各領域中有著不同的稱呼,其中社群媒體與網路論壇如同事實查核的黑盒子,上頭的假訊息成為一種有效的社會操縱工具,在傳遞歷程中混淆大眾對於真實與虛假訊息的界線,讓個人意見凌駕客觀事實、意見與事實的界線模糊化。

文:吳謹安

「數位通訊與資訊科技影響人們如何感知自我在世界中的位置,以及如何與他人產生連結,同時也定義了我們與世界互動的方式。」牛津大學的哲學教授Luciano Floridi認為隨著資訊技術的發展,人類正步入歷史上第四次去中心化[1] (de-centering shifts)。

17世紀法國哲學家認為人類是唯一能根據資訊進行運算與推理的物種,然而資料科學為了使生活變得更加便利,也將許多選擇與處理資訊的工作交給電腦代理(agent)執行。社群媒體演算法自動推送貼文、影片給受眾,讓人類不再位處訊息圈(infosphere)的中心。儘管如此,人們仍須倚賴資訊來得知周遭世界發生的事件,因此當政府與大企業掌握訊息圈的操控權,便可以依照其意志進行社會操縱,而資料科學的發展使得社會操縱能全面地滲透人們日常生活。

什麼是社會操縱(social manipulation)?

利用操縱訊息影響受眾以達到特定目標的手段,在各領域中有著不同的稱呼,例如資訊戰(information warfare)與認知作戰(cognitive warfare)。

美國智庫蘭德公司(RAND)便以敵對社會操縱 (hostile social manipulation)描述有目的、系統性地製造並散布訊息以影響受眾態度與行為,從而攻擊目標區域的政治、經濟與社會結構。透過資料科學進行的社會操縱行為通常包含三種特質:

  1. 以演算法與大數據分析,達到形塑公眾輿論的運算宣傳(computational propaganda)
  2. 數位廣告的政治宣傳化(weaponizing the digital influence machine)
  3. 投放包含為假新聞、陰謀論等內容挑起受眾負面情緒

全球70國出現「運算宣傳」活動

2019年牛津大學研究顯示包括臺灣在內,全世界有70個國家可以發現政府進行運算宣傳的痕跡,相較於2017年只有28個國家,成長近2.5倍。大部分的操縱者將運算宣傳用於操縱國內輿論,英國脫歐公投的劍橋分析公司透過精準廣告投放影響選舉結果公投、2016年美國總統大選俄羅斯與川普陣營利用社群媒體放大特定立場的聲量左右選舉都是經典的案例。

同報告也指出中國、俄羅斯、印度與巴基斯坦在內的七個國家[2] 利用社群媒體對外國進行社會操縱。運算宣傳以真人帳號、機器人(Bots)、人工與機器人混和操控(cyborg)帳號在社群媒體上操縱輿論,俗稱網軍(cyber troop),透過網軍進行假訊息、仇恨言論散播與洗板等操作。該篇報告中的國家超過70%有操縱者利用這些手段散播親政黨言論、攻擊政敵,而34%國家的操縱者更從中達成分化社會的目的。

pic2
圖片來源: The Global Disinformation Order: 2019
大部分國家中的運算宣傳主要用來散播假訊息誤導受眾、攻擊敵對政敵與媒體、放大特定立場意見的聲量

操縱者也能針對社群媒體功能的特性制定不同策略,例如Twitter社群中hashtag擁有連結相似主題貼文的功能,也能用來放大公民運動聲量與號召。不過美國BLM運動也出現反對者海量使用「#BlackLifeMatter」的hashtag發布種族歧視的貼文,迫使該運動支持者棄用該hashtag。

運算宣傳也讓企業與政府能夠搭配數位媒體使用精準投放(micro-targeting)廣告、訊息的方式,提升政治宣傳效率與減少副作用。2016年美國大選川普陣營瞄準非裔使用者投放希拉蕊1996年稱非裔青年為「超級掠食者」爭議言論,但其他受眾可能根本不知道該廣告的存在。此舉不僅節省成本,也降低被敵對陣營指控煽動種族情緒的風險。

同時,操縱者透過演算法可以得知受眾的個人偏好,從而發送、夾帶符合偏好的訊息,讓論述較容易被受眾接受。

數位廣告的精準投放:演算法為每個受眾客製化他們看到的世界

2018年RAND的一份報告提出的警告,商業行銷中的精準投放(micro-targeting)技術近年也成為政治宣傳常用的策略之一,其能透過三個環節完成:

  1. 蒐集用戶資訊加以分類
  2. 鎖定目標族群,擬定訊息透放策略
  3. 自動化與優化

民眾日常使用各種網路服務協議中,經常提供社群媒體以及各種網路服務公司關於自身的個資與行為資料,諸如登入時間、地點、裝置類型與貼文等使用參數。儘管人們日常的數位足跡看似遍佈不同的社群與網路平台,實際上廣告商還是能透過各種方式追蹤並整合使用者在不同平台上的行為,另一項調查顯示100萬個高使用頻率網站中有75%設有Google公司的cookies,透過整合用戶IP便能勾勒出使用者完整的數位足跡。

AP_19064268873765
Photo Credit: Reuters / 達志影像

另一項調查同樣發現,100萬個高使用頻率網站中有60%設有第三方追蹤cookies,然而使用者通常並不知道個人數位足跡被哪些第三方團體給分析與利用。企業更常將整合後的資料提供給鍵睿(Acxiom)、益百利(Experian)等資料仲介(data broker)公司,進一步推論關於使用者的個人心理資訊檔案(psychological profiles)。

例如,透過郵遞區號與姓名分辨使用者的族裔、持有不動產數量、可能的政治傾向;透過電商平台瀏覽紀錄分辨使用者是否已婚、有子女等。

完成資料分析後,接著廣告商接著便能針對目標族群擬定適合的廣告投放策略(何時、何地以及內容),通常設定在受眾情緒被促發時投放廣告以增加效益。2018年英國軍方就在Facebook上針對16歲的英國青少年使用者,在英國大考放榜當天投放募兵廣告,利用考生此時不安的心理進行招募,尤其根據研究顯示對自身學業成績不滿的青年可能轉向軍職謀求發展。2015年,反墮胎團體則是針對30天內曾經造訪婦產科診所的女性,投放廣告。

數位廣告商同時也仰賴自動化進一步修正廣告投放的時機、地點甚至是內容,過去數位廣告常用的即時競價(Real-time bidding)[3],在與AI結合後能反向通過大量數據調整廣告商與業主所設定的策略與目標客群特質。廣告平台也能同時投放不同版本的廣告(A/B test),實驗哪種版本廣告較容易被買單、哪種用戶特質較能預測其受眾的目標行為(如點進廣告),並且針對不同標籤的用戶制定行銷策略。

主流社群媒體如Facebook提供的廣告平台便整合了上述的功能,並且提供選舉宣傳的相關服務。在2016年美國大選Facebook便將用戶區分成14個政治相關的族群,川普陣營每天針對不同分類的用戶總共投入約50000到60000種廣告進行宣傳。

社會操縱利用認同威脅(identity threat),挑起負面情緒

得利於運算宣傳技術,操縱者能夠將客製的內容端到目標受眾面前,其內容設計通常是藉由引起群眾焦慮感、型塑認同威脅來強化動員,台灣近年總統與公投選舉都可以看到各團體以認同威脅為主軸的操作。

此外,錯誤訊息常見形式之一的陰謀論也是利用受眾對失去現實掌控的焦慮為原理,激起受眾焦慮的情緒來強化對自身原本的群體認同。例如,白人至上主義者擔心白人在美國成為少數族群,失去對現有生活的掌控;男性霸權主義者害怕因性別平權運動而被邊緣化。認同威脅的另一種操作模式為分化敵對陣營,藉由數位廣告投放刺激敵對陣營內部認同矛盾,模糊、降低敵對陣營支持者對其陣營的認同感。

Q國旗_RTX7P6RU
Photo Credit: Reuters / 達志影像

迷因文化的推波助瀾:社會操縱的新媒介

社會操縱也能透過近年盛行的迷因文化(meme)形式,以非文字的方式傳播。

迷因文化中圖像作為一種人際間共享的文化訊息與理解架構,透過反覆的二創與複製傳遞產生巨大的影響力。像是廣為人知的佩佩蛙(Pepe the frog),在2016年美國大選期間被白人至上主義者挪用進行政治宣傳,被國際反誹謗聯盟(Anti-Defamation League)標註為反猶太與種族歧視訊息。

相較於文字讀者可以在閱讀途中決定不繼續閱讀,迷因屬於視覺訊息能更自動化且快速的被大腦所處理,也讓受眾更容易接收其所希望傳達的資訊與價值觀。2017年《Data & Society》研究社群的一篇研究便將迷因比喻為「極端主義的入門藥物 (gateway drug)」,用來形容迷因以平易近人的方式吸引受眾接受其笑點與價值觀的危險性。

媒體生態與資訊結構的改變

研究者們也致力於討論現今受眾更容易暴露於社會操縱背後因素,主要可歸結出三項結構性因素:

1. 地方媒體衰退:公民參與及事實查核能力下降

隨著資訊載體的改變,消費者大多以線上媒體、行動裝置接受資訊,習慣以免費訂閱的方式瀏覽訊息,然而地方小資本媒體未必能負擔此種營利模式。無法與主流媒體競爭的情況下,需要透過合併節省成本。然而,合併後的企業體在地性減弱,且通常追求短期獲利,需長期經營的在地媒體部門則成為被裁撤的對象,作為地方事實查核第一道防線的能力逐漸式微。

此種媒體凋敝留下來真空弱化了地方公民參與的能見度和力量,因為政府與主流媒體多半需要透過區域性媒體來瞭解在地問題。

2. 注意力經濟:觸及率成為衡量資訊價值的標準

資訊量過載的媒體環境下,使用者注意力成為稀缺的資源。同時內容網站通常透過廣告刊登費用營利,高觸及率與廣告收益掛勾。基於上述原因觸及數成為定義資訊是否有價值的主要依據,也使得聳動、能挑起情緒性的文章脫穎而出。

此外,地方媒體面臨的窘境同樣也發生在主流媒體身上,1990年代起傳統媒體同樣面臨節省成本的課題,記者、員工數量減少導致單一記者肩負的產能壓力變得更大。而駐外記者數量減少,降低了媒體對國際新聞進行查核的能力。

RTS24Z66
Photo Credit: Reuters / 達志影像

儘管如此,資訊依然被要求快速且全年無休地更新,文稿往往在來不及進行詳盡查核的情況被上架。短時間內維持產能的方式之一,便是透過Twitter、PTT等平台汲取資訊,此類平台本身就能透過推文數與按讚數顯示用戶對內容的喜惡。因此媒體可以得知使用那些內容對於帶動平台觸及率最有幫助。

在追求受眾注意力資源與新聞商品化的脈絡下,品質低落但高產能的內容往往更有商業價值,從而使媒體放棄生產質量高但費時費力的內容。

3. 主流媒體信任感降低:極端訊息影響力提升

近年全球民眾對於主流媒體信任度整體持續下降,路透社2020年的數位新聞報告顯示只有38%的受訪者信任主流媒體,對比2019年下降4%。同時民眾轉而以社群媒體、網路論壇等形式獲取新聞,台灣自2017年起使用電視與平面媒體作為新聞資訊來源的民眾比例分別從77%降至62%、41%降至21%,而使用社群媒體作為新聞資訊來源的比例則上升至59%,其中大部分民眾主要仰賴Line (49%)提供訊息。

pic3
圖片來源: Reuters Institute for the Study of Journalism. copyright(CC BY 4.0)

儘管主流媒體的內容可能帶有錯誤、誤導訊息,企業尚且部分受到民眾與政府的監督,但社群媒體與網路論壇如同事實查核的黑盒子,同時在這樣的平台上資訊與其生產者間的關聯相對模糊,只依靠其作為資訊來源更可能提高受眾暴露於極端言論的風險。

同時,假新聞的氾濫也是民眾對於主流媒體信任感下降的原因之一,而假訊息作為一種有效的社會操縱工具,本身不一定需要具有強勁的說服力。只要能透過受眾、甚至政府的澄清聲明傳遞給更多受眾,使其對於資訊環境不信任感提高,並在傳遞歷程中混淆大眾對於真實與虛假訊息的界線,最後造成真實凋敝[4](truth decay)的社會氛圍,讓個人意見凌駕客觀事實、意見與事實的界線模糊化。

透過制度的修正與同理,才能攜手走出困境

社會操縱通常立基於部分事實,但夾帶錯誤或誤導的資訊與結論。藉由刺激原本就存在歷史與社會創傷、擴大族群衝突以達成目的。此外,以運算宣傳進行的社會操縱其訊息與生產者間的關係難以捕捉、溯源,因此民眾難以對生產者進行監督。

隨著今年COVID-19疫情也帶來挑戰以及轉機,一方面隨著全球經濟衰退,媒體業者廣告收入受影響。開始需要推出會員或付費訂閱制度平衡收益,牛津大學研究報告便指出此種趨勢有利於少數大型傳統媒體與擁有強烈政黨支持媒體的生存,從而加劇地方媒體面臨的困境。但另一方面,因應疫情假新聞的大量出現,民眾對於挑選可信度高媒體以及事實查核的意識提高,對於傳統媒體的使用程度有所回升,期盼能逐漸改善整體社會結構改變所帶來的真實凋敝現象。

在人類逐漸脫離資訊圈中心的時代,演算法使現實中每個人都活在被切割後的訊息泡泡中,享用著篩選過的現實,正如台灣社會目前面臨不同世代與族群間認同與意見極化的困境。需要仰賴民眾對於事實查核的自我意識、數位廣告透明化等機制,才能為不同族群的溝通建立基礎。而當社會凝聚了足夠的共識,台灣才能夠真正地走向世代與族群共容。

資料來源

  1. Anthony Nadler, Matthew Crain, & Donovan, J. (2018). Weaponizing the digital influence machine: The Political Perils of Online Ad Tech.
  2. Libert, T. (2015). Exposing the Hidden Web: An Analysis of Third-Party HTTP Requests on 1 Million Websites.
  3. Marwick, A., & Lewis, R. (2017). Media manipulation and disinformation online. Data & Society Research Institute.
  4. Mazarr, M., Casey, A., Demus, A., Harold, S., Matthews, L., Beauchamp-Mustafaga, N., & Sladden, J. (2019). Hostile Social Manipulation: Present Realities and Emerging Trends.
  5. Newman, N., Fletcher, R., Schulz, A., Andı, S., & Nielsen, R. K. (2020). Reuters Institute Digital News Report 2020. Reuters Institute for the Study of Journalism.
  6. Samantha Bradshaw & Howard, P. N. (2019). The Global Disinformation Order: 2019. Global Inventory of Organised Social Media Manipulation.

註解

  1. 前三次分別是:哥白尼提出日心說,提出地球並不是宇宙的中心;達爾文發表物種起源,提出人類與萬物一樣是演化的產物;佛洛伊德提出潛意識,代表人的日常行為會受到潛意識的影響。
  2. 7國包含中國、俄羅斯、印度、巴基斯坦、伊朗、沙烏地阿拉伯與委內瑞拉。
  3. 以自動化機制讓業主不再是單純買時段投放廣告,而是系統分析目前正在瀏覽頁面的使用者(潛在用戶)標籤,各業主根據這位潛在用戶標籤是否符合需求決定出價多少競標廣告版面。
  4. 美國智庫RAND研究者Jennifer Kavanagh與Michael D. Rich (2018)提出的概念,指涉事實與意見被混淆、個人意見與經驗影響力大於事實、對於事實與數據的不信任的社會趨勢。