【專訪】杜奕瑾:假訊息認知作戰氾濫,可從操作歷程找端倪

【專訪】杜奕瑾:假訊息認知作戰氾濫,可從操作歷程找端倪
Photo Credit: 中央社

我們想讓你知道的是

雖然台灣有「事實查核中心」查證消息真偽,但以人力查核為主,速度較慢,杜奕瑾形容是「落後指標」,因為假訊息往往從社群媒體試水溫,再透過媒體報導放大,等到事實查核結果出來,假訊息早已經傳遞到下一個戰場。

(中央社)網路資訊傳播快速,社群平台消息和新聞報導真實性更難查證。台灣人工智慧實驗室創辦人杜奕瑾表示,網路很多假訊息與認知作戰,等到事實查核完成已經太晚,民眾可以透過一些分析工具觀察操作歷程,決定是否相信。

杜奕瑾接受《中央社》記者專訪指出,2020年COVID-19(嚴重特殊傳染性肺炎、武漢肺炎、新冠肺炎)疫情爆發後,全世界開始出現疫苗相關假訊息,台灣人工智慧實驗室(Taiwan AI Labs)著手追查,研究如何防制假訊息。

台灣人工智慧實驗室觀察,去(2022)年俄烏戰爭爆發後,推特上發表相關言論的每10個帳號就有1個涉及認知操作;去年8月時任美國聯邦眾議院議長裴洛西(Nancy Pelosi)訪台期間,每4個帳號就有1個跟認知操作相關。

杜奕瑾直言,民眾在網路上看到攻擊自己的言論,感覺就像以前在路上遊行時有人來打你,其實很多都是認知操作的帳號。

「網路上這麼多假消息,很多人知道認知操作的厲害。」他坦言,「英國劍橋分析事件」認知操作200多場選舉都證明可以成功,但科技不能凌駕於人性。自2018年以來,全球開始對數位科技反思,台灣人工智慧實驗室也曾受美國總統拜登國家智庫「新美國基金會」(New America Foundation)之邀,討論科技倫理。

台灣人工智慧實驗室透過演算法全面理解分析,了解訊息如何不正常在網路上傳播,在疫情期間有很多偵防成果。例如世界衛生組織(WHO)秘書長譚德塞(Tedros Adhanom Ghebreyesus)曾表示,在疫情期間有網軍對他人身攻擊,當時推特確實有一群人不斷轉貼台灣BBS社群平台批踢踢(PTT)截圖攻擊譚德賽,這些帳號都有相同習性和行為。

杜奕瑾表示,台灣人工智慧實驗室把攻擊譚德塞的帳號分析結果交給國際夥伴後,已經變成全世界假訊息偵防很重要角色,尤其是中文訊息診斷,很多國際組織會來確認中文假訊息。

「以現在人工智慧技術,要創造一個假訊息的門檻非常低。」杜奕瑾說,深偽技術已經運用在網路上,可以合成聲音和臉孔,也能生成偽造內容;以後真假訊息的辨識只會更加困難,這也是科技倫理探討的議題。

雖然台灣有「事實查核中心」查證消息真偽,但以人力查核為主,速度較慢,杜奕瑾形容是「落後指標」;假訊息往往從社群媒體試水溫,再透過媒體報導放大,等到事實查核結果出來,假訊息早已經傳遞到下一個戰場。

他認為,防制假訊息的關鍵在於培養民眾的數位素養,透過人工智慧技術找出操作本質,輔助還原訊息原貌。未來民眾閱讀訊息時,可以透過一些分析工具觀察過去的操作歷程,大概就能理解操作目的。

例如台灣人工智慧實驗室開發的「迷音Miin」App,透過人工智慧技術,可以有效整理所有媒體和社群平台對於相同主題的內容,再自動寫成新聞,能協助讀者釐清操作歷程。

杜奕瑾說,透過「迷音Miin」可以看到哪些內容是鄉民原生,哪些是公關公司炒作,同時「迷音Miin」會標記有問題的內容。過去政治決策者常用訊息聲量決定輿情,但其實聲量可以被炒作出來。

眼看PTT成為認知操作的戰場,杜奕瑾並不覺得感慨,反而認為是社會發展的過程。他表示,如何防範資訊操作攻擊,是數位平台的共同問題,至少PTT在台灣還是開放且開源(open source)的組織,內容與運作機制都相對透明。

去年有開發者推出「唬爛產生器」,只要輸入主題和字數,就能自動產生一篇文章,成為學生交報告的偷懶神器。杜奕瑾對此表示,學術倫理其實更難把關,「人會越來越容易被騙」,但人工智慧產出的報告還是看得出不同,最終還是要從素養教育開始做起。

新聞來源

延伸閱讀

【加入關鍵評論網會員】每天精彩好文直送你的信箱,每週獨享編輯精選、時事精選、藝文週報等特製電子報。還可留言與作者、記者、編輯討論文章內容。立刻點擊免費加入會員!

責任編輯:莊貿捷
核稿編輯:翁世航