科技專家競猜︰今年底前會出現「深度造假」的政治抹黑影片嗎?

科技專家競猜︰今年底前會出現「深度造假」的政治抹黑影片嗎?
Image Credit: depositphotos
我們想讓你知道的是

稱為「deepfake」的影片造假技術日漸普及,今年美國中期選舉期間,會否出現作政治宣傳的假影片?專家對此意見不一。

唸給你聽
powered by Cyberon

去年底有媒體報道,一名叫「deepfakes」的Reddit用戶貼出色情影片,女主角看來是演員嘉鐸(Gal Gadot),但這其實是以深度學習技術(deep learning)把嘉鐸的臉配上影片原本女角臉孔所製造出來的假色情片。

其後有人將有關的演算法製作成程式Deepfake App,讓不懂機器學習技術的用戶都能製作類似影片——這類影片後來就被稱為「深度造假」(deepfake),泛指利用機器學習技術移花接木的影片。專為「深度造假」影片而設的Reddit討論區,迅速出現大量換上女星臉孔的假色情影片,在受到傳媒關注後不久,Reddit以至其他網絡平台均封鎖「深度造假」的色情影片。

為甚麼還沒有「深度造假」的政客影片?

除了引起「復仇式色情」(revenge porn)等倫理及法律問題外,不少人擔心「深度造假」技術普及後假新聞片段更難辨認。從過去幾年趨勢可以見到,政治及商業利益驅使大量政治假新聞出現,加上今年底將舉行美國中期選舉,人工智能倫理及管治計劃總監添·黃(Tim Hwang)在Twitter提出他稱為「政治宣傳的費米悖論」︰

在政治中使用「深度造假」等機械學習技術看來容易而且符合成本效益,為甚麼我們還未見到任何顯著例子?

耶魯大學法律學院資訊社會計劃執行總監、研究人工智能及法律議題的的古托(Rebecca Crootof)回應指出,上個月比利時有政黨製作一段假影片,冒充美國總統特朗普呼籲該國人民退出氣候協定,以宣傳該黨推動改善環境的聯署。(據報該黨使用軟件After Effect而非Deepfake App,不涉及深度學習技術。)

不過黃認為這未符合他所想的例子,因為該段影片有提到那是假影片,而且未累積到足夠瀏覽人數引起任何威脅。這場討論引起一個小型賭局︰2018年底前會否出現一段主角為候選人的「深度造假」影片,而且在被破解之前累積到一定觀眾?黃認為不,但古托相信會出現一段最少200萬人觀看的假影片,兩人以一杯酒作賭注。

時間問題

賭局吸引了十多名科技及社會科學背景的專家,雖然不少人認為「深度造假」影片不會在今年選舉出有太大影響,但較多人認為會於2020年美國總舉選舉造成問題——這似乎只是時間問題。

OpenAI傳訊總監格拉克(Jack Clark)認為,到2020年的時候「深度造假」技術會傳播得更廣而且足夠便宜,那時會有人偽造影片。不過他暫時認為年底不會出現這問題,因為技術上仍然有點繁瑣及困難。

賓夕法尼亞大學政治科學系教授荷路威士(Michael Horowitz)同意古托,認為今年底會出現政治「深度造假」影片。他形容這些影片可以利用黨派政治分化,令社會變成資訊僅是加強人們固有信念的各個「迴音室」。

荷路威士反問︰「假如在中期選舉前一星期,出現一段俄羅斯設計來干擾美國大選的『深度造假』影片(不論是哪個陣營),你會感到驚訝嗎?目前而言如果俄國不嘗試這樣做,我才會感到驚訝——問題是影片可以傳播給多少人看。」

牛津大學人類未來研究所的研究員布倫達治(Miles Brundage)早前曾警告,今年美國中期選舉可能是首次有人惡意使用「深度造假」引起混亂的機會,但他還不確定,所以未有下注。他說︰「這就像數碼安全漏洞一樣——在真正重要的時刻來臨之前不要使用,因為太早使用的話,人們便有機會適應。」然而他認為,以人手打造而非使用深度學習技術的影片,仍有可能更具破壞力,所以他未有下注。

政治以外

黃認為,目前的「深度造假」技術仍有待改善,而且很多情況下會失敗,製作可信假影片所需的運算能力讓一般用戶無法做到,目前尚有其他不靠深度學習技術的數碼造假方法。此外他又指出,有研究人員正調查如何偵測「深度造假」影片,當「深度造假」變得普及時這些技術或能夠有效制衡,大型網絡平台如Facebook和YouTube等亦有誘因研究,以辨認甚至移除「深度造假」影片。

不過,技術難以普及並不代表帶政治目的的「深度造假」影片不會出現。另外,如果「深度造假」影片是指利用深度學習技術製作的假影片,而不限於最初有關程式的「換臉」方式,現時已有人研究出為目標人物——例如奧巴馬——配上特定動作、說話的技術,即使未有普及的製作方式,具充足資源的勢力仍有可能在今年美國中期選舉期間發放假影片,干預選舉結果。

到底2018年完結前,會否出現首段廣傳的政治「深度造假」影片?最長還需要半年才知道答案。

「深度造假」影片帶來的威脅不限於黑客用來意圖影響民主選舉,技術普及後,在尋求娛樂的網民手上會有何影響,同樣值得關注。格拉克說︰「我想的是,假如製作有趣的假影片就像今天製作meme一樣,成為另一種消遣,那會發生甚麼事?我認為那些只想尋開心的人,集體而言會比個別壞人更危險。」

相關文章︰

資料來源︰