社交媒體想根絕暴力影片,但現行技術只能「打地鼠」

社交媒體想根絕暴力影片,但現行技術只能「打地鼠」
Photo Credit: Edgar Su / REUTERS / 達志影像

我們想讓你知道的是

基督城槍擊影片之所以更加棘手,因為該影片不是錄製好之後才上傳,而是在線上直播,而以現行的人工智能科技,從直播影片偵測暴力場景幾乎不可能,也很難在直播期間撤下影片。

文:Billy Perrigo
譯:李宓

3月15日紐西蘭基督城的兩宗清真寺槍擊事件造成至少49人喪命。其中一位槍手為了確保他們的惡行「快速爆紅」,線上直播了作案過程,逼得Facebook、YouTube等社群網站只能忙著封鎖、刪除這些影像。不過複本仍像病毒一樣四處流傳。

槍手在Facebook上直播的原始影片已經撤下,但在那之前,這個17分鐘的影片已經供人多次收看、重播、下載了。影片複本很快滲透到其他平台,像是YouTube、Twitter、Instagram和Reddit,最終又再回到Facebook。這些平台雖然撤下了數個複本,但新的備份很快又從其他源頭傳上網路。這宗事件點出了社交媒體公司在阻止使用者張貼暴力內容上薛西佛斯式[註]的徒勞。喬治亞州立大學(Georgia State University)全球研究與傳播教授東尼.勒謬(Tony Lemieux)說道:「基本上,這變得像是打地鼠遊戲。」

Facebook、YouTube和其他社交媒體主要有兩種方法檢核用戶上傳的內容。首先是內容辨識科技,運用人工智能比對新上傳的內容,和現有已知的違禁影像。勒謬說:「只要你知道有哪些內容是不合宜的,科技就能派上用場。」除了人工智能,社交媒體公司也雇用上千名審核人作為補強,以人工檢查影片和其他內容。儘管如此,社交媒體公司仍經常未能在影像快速擴散之前,辨識出暴力元素。使用者因此能搶先一步,快速取得這些畫面。而讓他們有辦法這麼做的,正是試圖要防範這些內容的平台。

YouTube、Facebook、Twitter都不願意向《TIME》透漏他們究竟撤下了多少支基督城影片複本。紐西蘭警方表示,他們知道這支影片在社交媒體上流傳,為此他們呼籲民眾不要再分享出去。警方在Twitter上說道:「目前有支基督城槍擊事件的影片在網路上流傳,該影片涵蓋令人不適之內容,強烈建議不要轉發。」大規模槍擊事件凶手大多渴望名聲。駭人事件每次只要發生,就會有人呼籲不要稱了加害者的意,提到他們的臭名。(基督城槍擊案發生後,有四人遭到逮捕,但目前不清楚負責直播的槍手是否單獨作案。)

Facebook表示,他們是在紐西蘭警方通知之後,才撤下原始影片。這代表演算法攔截失敗。Facebook發言人指出:「我們很快移除了槍手的Facebook、Instagram帳號及恐襲影片。任何對這宗犯罪及槍手展現的讚賞與支持,只要我們有注意到,都會予以刪除。」

紐西蘭 恐攻
Photo Credit: AP/達志影像

專家表示,基督城恐襲影片點出了社交媒體公司在內容管控上的致命缺失。

內容辨識公司「ACRCloud」共同創辦人彭東(Peng Dong)向《TIME》表示:「我們很難完全避免新的暴力影片被傳上網路。」他解釋,目前內容辨識科技的運作方法根據的是「指紋比對」技術。社交媒體公司若想避免某類影片上傳至平台,他們首先得上傳該影片的複本到資料庫,讓新的影片有比對的依據。

就算有了參考點(也就是暴力影片的範本),用戶也可以運用手段(像是調整畫面或音訊品質)讓他們的影片繞過官方審查。「指紋比對」技術越進步,就越能從影片中偵測出不同的暴力元素。但目前的系統仍不完美,這多少也解釋了為什麼在恐襲發生後好幾小時之後,仍有許多影片複本在YouTube上流傳。YouTube聲明:「我們非常努力在移除任何暴力影像。」

專家表示,社交媒體公司現也嘗試訓練機器在影片第一次上傳時,就從中偵測暴力片段,但演算法還不夠進步,無法有效撤下類似影像。勒謬指出,簡單設想一下,舉例來說,演算法可能會搞混第一人稱視角的射擊遊戲和現實生活的暴力片段。

人力審核也非萬無一失。正如科技媒體網站《The Verge》近期刊登的一則報導所言,這份工作的心理壓力很大。員工每天暴露在令人不適的影像當中,低薪,又沒有足夠的資源維繫心理健康。Facebook、YouTube、Twitter都從世界各地雇用了上千名內容審核員,許多公司也在最近承諾要改善員工待遇。

RTR2CACZ
Credit: Reuters / TPG

基督城槍擊影片之所以更加棘手,因為該影片不是錄製好之後才上傳,而是在線上直播整件事。以現行的人工智能科技而言,從直播影片偵測暴力場景幾乎不可能,也很難在直播期間撤下影片。Facebook Live、YouTube Live和Twitter旗下的Periscope都讓用戶能夠隨時隨地開啟直播,因此,即時的內容審核可說是不可能的任務。彭東說:「沒有一種完美的科技,能在沒有參考資料庫的情形下,撤下影片。」

過去曾有數宗謀殺案或其他駭人的行動透過Facebook Live直播。但基督城槍擊案是第一次有大規模槍擊案凶手特地選擇直播,在鏡頭前奪取無數人命。他們這麼做顯然是為了確保他們的惡行能在網路上流傳,並且傳遞仇恨訊息。Facebook、YouTube等社交媒體公司已出於種種原因,被民眾仔細審視當中。而如今,他們還得為自己的審核機制辯護,向大眾解釋,為何一名集體謀殺犯可以如此輕易地操弄社交媒體系統,讓令人髮指的惡行在短短幾分鐘內散播至全世界。



猜你喜歡


新國科會主委吳政忠:部會協力串聯,打造不只科技部的科技,回應社會多元需求

新國科會主委吳政忠:部會協力串聯,打造不只科技部的科技,回應社會多元需求
Photo Credit:TNL Brand Studio

我們想讓你知道的是

國家科學及技術委員會揭牌及主任委員布達儀式7月27日於科技大樓舉行,原科技部部長吳政忠出任首任主任委員,承接過去使命再提出四點精進方向,期待透過跨部會協力,布局新興科技與產業。

科技部改制為「國家科學及技術委員會」(以下稱「新國科會」),7月27日於科技大樓舉行揭牌及主任委員布達儀式,與會貴賓不只涵蓋產官學界,總統蔡英文及行政院長蘇貞昌也親臨會場,共同見證我國科研事務推動最高權責機關成立,為政府組織改造立下重要的里程碑。

JOHN5285
Photo Credit:TNL Brand Studio

新國科會打造不只是科技部的科技,建立科技與臺灣社會的多元聯繫

臺灣的科技不應該只有科技部,而是還有經濟部、衛福部等所有部會在一起,但是用科技部的名稱出去國外,好像就變成全臺灣的科技都是科技部的。所以我說,科技不會只有科技部的科技,應該是所有部會的總合。

新國科會首任主委吳政忠在致詞開頭即強調「部會合作」的組織核心,表示「科技不只是科技,科技與經濟、社會、環境等面相都有密切的關係」,也因此不應侷限於某個部分,應當是多個部會、學術界、產業界等攜手合作推動。

有別於過去科技部與行政院科技會報辦公室以合作關係來協調部會,未來新國科會改以委員會的組織形式運行,透過每月主要部會的首長共同商議策略方向,能夠整合部會資源,協作共達目標,此舉不只立下我國科技發展全新的里程碑,也讓臺灣能夠更靈敏的面對國際競爭。

JOHN5141
Photo Credit:TNL Brand Studio
新國科會主委 吳政忠。

新國科會前身是1959年行政院國家科學委員會,又於2014年改制為科技部,過去肩負推動全國整體科技發展、支援學術基礎研究,以及發展科學園區等三大使命,在歷任部長的努力下,更將創新創業加入推動目標。如今的新國科會不只承接過去使命,主任委員吳政忠更提出以下四點未來新國科會所精進的方向:

一、跨部會協力,布局新興科技與產業
儘管臺灣小、科技預算不如國外,但臺灣部會之間高效率、精準連結的合作模式,將成為與國外競爭時的最大優勢,而「跨部會」溝通不只是未來新國科會的努力目標,也是新國科會最核心的思考架構。

二、基礎學術研究奠基
回顧過去兩年臺灣新冠疫情的防疫成果,無論在病毒醫學還是疫苗研發領域,基礎科學研究一直都是技術開發的堅強後盾;所以在臺灣邁向國際頂尖的路上,無論半導體、太空、還是人工智慧,科技的基礎研究與國際互動都將是新國科會注重的發展方向。

三、打造精緻多元的生活科學園區
過去半導體產業已替臺灣打下堅實的基礎,科技園區的產值從2.7兆成長到去(2021)年3.7兆,但除了半導體,其他的產業也需要布局,尤其是精準健康、智慧農醫、電動車、太空科技、低軌衛星等「接近生活」的重點產業。

四、實踐科技的人文社會價值
隨著科技與生活拉近距離,未來的科技發展必然需要與社會需求、環境永續連結,回應外在社會環境的變化;此外,科技人才培育、加強臺灣女性在科技面的投入比例,都將是未來新國科會欲強化的目標。

JOHN5412
Photo Credit:TNL Brand Studio

進一步探究,就會發現上述新國科會的策略方針並非憑空發想,而是源自對產業發展的細微觀察與豐富的知識、經驗的珍貴結晶。早在吳政忠任職行政院科技顧問組副執行秘書時,就已觀察到「當科技更接近生活,產品價值就會大幅度的翻倍成長」的現象,再回顧臺灣善於代工製造零件的發展歷史,才萌生「將臺灣強而有力的製造技術與創新想法整合」的初步想法。

但是「整合」一詞的背後,需要的是基礎研究、應用研究,產業實務之間的環環相扣,過程不只涉及公私跨部門、跨領域的協調,也是一個漫長轉換的過程,並非一蹴可及。最後,在數年醞釀及無數人的共同努力下,儘管過程困難重重,以「部會合作」思考為核心的組織架構「新國科會」終於順利誕生,讓整體國家的科技發展得以提升至行政院層級的高度,向下整合上中游的基礎研究、下游的應用研究及產業實務的連接,創造更多的商機與價值。

JOHN5337
Photo Credit:TNL Brand Studio

新國科會的挑戰與期許,後疫情時代的科技人文關懷

如今全球進入後疫情時代,國際關係變動不定,更面臨供應鏈重組、數位轉型等產業挑戰,科技作為國家發展重要的中堅力量,勢必需要更快速的布局因應,在變動中搶得先機。但除了研究與創新,科技與人文社會的結合也是新國科會的一大核心。

隨著人工智慧、太空等科技發展,生活中科技將無所不在,因此未來傳統產業必然將被完全翻轉,此時人文社會科學就扮演嫁接技術與生活文化的重要橋樑,彰顯科學研究成果對人類福祉的巨大貢獻。但這一切的前提是科技與社會必須主動伸手,彼此接觸、相互了解,攜手促進社會總體的福祉發展。新國科會成立之日,同時也是「國科會職場互助教保服務中心[註]」揭牌日,便能看見國科會對人文的用心,除了前述四大重點外,對於女性人才的培育、原住民教育的深耕、環境永續,都將是國科會的重點目標,如何透過科技連結社會的需求,正是新國科會追求的核心,因此新國科會不只是部會整合、資源分配與未來展望而已,更是將科技應用在民間的推動者,同時成為科技與人文交流的平台,最大化科技對總體社會福祉的貢獻。

國科會科技辦公室 廣告


[註]:國科會職場互助教保服務中心於110年8月開辦,位於科技大樓1樓,是臺灣公共托育協會承接的第一間職場教保中心。以平價、優質、非營利、社區化之方向營運,希望透過政府與公益法人團體協力的方式,結合民間團體資源,提供孩子優質的教保品質,減輕社區家庭照顧負擔,提升教保人員工作環境與權益。資料來源:財團法人彭婉如文教基金會


猜你喜歡