特別報導

【TIME】【FORTUNE】全球中文獨家授權

社群媒體想根絕暴力影片,但現行技術只能「打地鼠」

2019/03/27 , 評論
TIME
photo credit: Mark Baker/AP/達志影像
TIME
時代雜誌是全球最受信賴的新聞來源,透過卓越報導、文字與攝影捕捉那些形塑我們生活的事件。時代集團旗下擁有100個經典品牌如時人(People)、運動畫報(Sports Illustrated)、時代(Time)、與財星(Fortune)等雜誌,以及其他如英國創立的Decanter、Wallpaper等超過50個各式各樣的媒體品牌。

文:Billy Perrigo
譯:李宓

3月15日紐西蘭基督城的兩起清真寺槍擊事件造成至少49人喪命。其中一位槍手為了確保他們的惡行「快速爆紅」,線上直播了作案過程,逼得Facebook、YouTube等社群網站只能忙著封鎖、刪除這些影像。不過複本仍像病毒一樣四處流傳。

槍手在Facebook上直播的原始影片已經撤下,但在那之前,這個17分鐘的影片已經供人多次收看、重播、下載了。影片複本很快滲透到其他平台,像是YouTube、Twitter、Instagram和Reddit,最終又再回到Facebook。這些平台雖然撤下了數個複本,但新的備份很快又從其他源頭傳上網路。這起事件點出了社群媒體公司在阻止使用者張貼暴力內容上薛西佛斯式[註]的徒勞。喬治亞州立大學(Georgia State University)全球研究與傳播教授東尼.勒謬(Tony Lemieux)說道:「基本上,這變得像是打地鼠遊戲。」

Facebook、YouTube和其他社群媒體主要有兩種方法檢核用戶上傳的內容。首先是內容辨識科技,運用人工智慧比對新上傳的內容,和現有已知的違禁影像。勒謬說:「只要你知道有哪些內容是不合宜的,科技就能派上用場。」除了人工智慧,社群媒體公司也雇用上千名審核人作為補強,以人工檢查影片和其他內容。儘管如此,社群媒體公司仍經常未能在影像快速擴散之前,辨識出暴力元素。使用者因此能搶先一步,快速取得這些畫面。而讓他們有辦法這麼做的,正是試圖要防範這些內容的平台。

YouTube、Facebook、Twitter都不願意向《TIME》透漏他們究竟撤下了多少支基督城影片複本。紐西蘭警方表示,他們知道這支影片在社群媒體上流傳,為此他們呼籲民眾不要再分享出去。警方在Twitter上說道:「目前有支基督城槍擊事件的影片在網路上流傳,該影片涵蓋令人不適之內容,強烈建議不要轉發。」大規模槍擊事件凶手大多渴望名聲。駭人事件每次只要發生,就會有人呼籲不要稱了加害者的意,提到他們的臭名。(基督城槍擊案發生後,有四人遭到逮捕,但目前不清楚負責直播的槍手是否單獨作案。)

Facebook表示,他們是在紐西蘭警方通知之後,才撤下原始影片。這代表演算法攔截失敗。Facebook發言人指出:「我們很快移除了槍手的Facebook、Instagram帳號及攻擊影片。任何對這起犯罪及槍手展現的讚賞與支持,只要我們有注意到,都會予以刪除。」

紐西蘭 恐攻
Photo Credit: AP/達志影像

專家表示,基督城攻擊影片點出了社群媒體公司在內容管控上的致命缺失。

內容辨識公司「ACRCloud」共同創辦人彭東(Peng Dong)向《TIME》表示:「我們很難完全避免新的暴力影片被傳上網路。」他解釋,目前內容辨識科技的運作方法根據的是「指紋比對」技術。社群媒體公司若想避免某類影片上傳至平台,他們首先得上傳該影片的複本到資料庫,讓新的影片有比對的依據。

就算有了參考點(也就是暴力影片的範本),用戶也可以運用手段(像是調整畫面或音訊品質)讓他們的影片繞過官方審查。「指紋比對」技術越進步,就越能從影片中偵測出不同的暴力元素。但目前的系統仍不完美,這多少也解釋了為什麼在攻擊事件發生後好幾小時之後,仍有許多影片複本在YouTube上流傳。YouTube聲明:「我們非常努力在移除任何暴力影像。」

專家表示,社群媒體公司現也嘗試訓練機器在影片第一次上傳時,就從中偵測暴力片段,但演算法還不夠進步,無法有效撤下類似影像。勒謬指出,簡單設想一下,舉例來說,演算法可能會搞混第一人稱視角的射擊遊戲和現實生活的暴力片段。

人力審核也非萬無一失。正如科技媒體網站「The Verge」近期刊登的一則報導所言,這份工作的心理壓力很大。員工每天暴露在令人不適的影像當中,低薪,又沒有足夠的資源維繫心理健康。Facebook、YouTube、Twitter都從世界各地雇用了上千名內容審核員,許多公司也在最近承諾要改善員工待遇。

RTR2CACZ
Credit: Reuters / TPG

基督城槍擊影片之所以更加棘手,因為該影片不是錄製好之後才上傳,而是在線上直播整起事件。以現行的人工智慧科技而言,從直播影片偵測暴力場景幾乎不可能,也很難在直播期間撤下影片。Facebook Live、YouTube Live和Twitter旗下的Periscope都讓用戶能夠隨時隨地開啟直播,因此,即時的內容審核可說是不可能的任務。彭東說:「沒有一種完美的科技,能在沒有參考資料庫的情形下,撤下影片。」

過去曾有數起謀殺案或其他駭人的行動透過Facebook Live直播。但基督城槍擊案是第一次有大規模槍擊案凶手特地選擇直播,在鏡頭前奪取無數人命。他們這麼做顯然是為了確保他們的惡行能在網路上流傳,並且傳遞仇恨訊息。Facebook、YouTube等社群媒體公司已出於種種原因,被民眾仔細審視當中。而如今,他們還得為自己的審核機制辯護,向大眾解釋,為何一名集體謀殺犯可以如此輕易地操弄社群媒體系統,讓令人髮指的惡行在短短幾分鐘內散播至全世界。


譯注:薛西佛斯(Sisyphean)的典故來自希臘神話。眾神懲罰他,令他把一塊巨石推上山頂。薛西佛斯每次抵達山頂,巨石就會因自身重量再度滾落山下。後以此比喻徒勞無功、不可能完成的任務。

© 2018 Time Inc. 版權所有。經Time Inc.授權翻譯並出版,嚴禁未經書面授權的任何形式與語言版本轉載。

責任編輯:丁肇九
核稿編輯:翁世航

專題下則文章:

拉攏義大利加入一帶一路,證實中國有挑戰歐美地緣政治的實力

【TIME】【FORTUNE】全球中文獨家授權:

《關鍵評論網》獨家獲得時代雜誌與財星雜誌全球中文數位版授權,將每日提供兩大媒體品牌文章的中文譯文,題材涵蓋國際政治、財經、科技、文化、歷史、生活、娛樂等各領域。

看完整特別報導