2018/06/27,
科技

科技專家競猜︰今年底前會出現「深度造假」的政治抹黑影片嗎？

科技專家競猜︰今年底前會出現「深度造假」的政治抹黑影片嗎？
Image Credit: depositphotos

我們想讓你知道的是

稱為「deepfake」的影片造假技術日漸普及，今年美國中期選舉期間，會否出現作政治宣傳的假影片？專家對此意見不一。

去年底有媒體報道，一名叫「deepfakes」的Reddit用戶貼出色情影片，女主角看來是演員嘉鐸（Gal Gadot），但這其實是以深度學習技術（deep learning）把嘉鐸的臉配上影片原本女角臉孔所製造出來的假色情片。

其後有人將有關的演算法製作成程式Deepfake App，讓不懂機器學習技術的用戶都能製作類似影片——這類影片後來就被稱為「深度造假」（deepfake），泛指利用機器學習技術移花接木的影片。專為「深度造假」影片而設的Reddit討論區，迅速出現大量換上女星臉孔的假色情影片，在受到傳媒關注後不久，Reddit以至其他網絡平台均封鎖「深度造假」的色情影片。

為甚麼還沒有「深度造假」的政客影片？

除了引起「復仇式色情」（revenge porn）等倫理及法律問題外，不少人擔心「深度造假」技術普及後假新聞片段更難辨認。從過去幾年趨勢可以見到，政治及商業利益驅使大量政治假新聞出現，加上今年底將舉行美國中期選舉，人工智能倫理及管治計劃總監添·黃（Tim Hwang）在Twitter提出他稱為「政治宣傳的費米悖論」︰

在政治中使用「深度造假」等機械學習技術看來容易而且符合成本效益，為甚麼我們還未見到任何顯著例子？

耶魯大學法律學院資訊社會計劃執行總監、研究人工智能及法律議題的的古托（Rebecca Crootof）回應指出，上個月比利時有政黨製作一段假影片，冒充美國總統特朗普呼籲該國人民退出氣候協定，以宣傳該黨推動改善環境的聯署。（據報該黨使用軟件After Effect而非Deepfake App，不涉及深度學習技術。）

不過黃認為這未符合他所想的例子，因為該段影片有提到那是假影片，而且未累積到足夠瀏覽人數引起任何威脅。這場討論引起一個小型賭局︰2018年底前會否出現一段主角為候選人的「深度造假」影片，而且在被破解之前累積到一定觀眾？黃認為不，但古托相信會出現一段最少200萬人觀看的假影片，兩人以一杯酒作賭注。

時間問題

賭局吸引了十多名科技及社會科學背景的專家，雖然不少人認為「深度造假」影片不會在今年選舉出有太大影響，但較多人認為會於2020年美國總舉選舉造成問題——這似乎只是時間問題。

OpenAI傳訊總監格拉克（Jack Clark）認為，到2020年的時候「深度造假」技術會傳播得更廣而且足夠便宜，那時會有人偽造影片。不過他暫時認為年底不會出現這問題，因為技術上仍然有點繁瑣及困難。

賓夕法尼亞大學政治科學系教授荷路威士（Michael Horowitz）同意古托，認為今年底會出現政治「深度造假」影片。他形容這些影片可以利用黨派政治分化，令社會變成資訊僅是加強人們固有信念的各個「迴音室」。

荷路威士反問︰「假如在中期選舉前一星期，出現一段俄羅斯設計來干擾美國大選的『深度造假』影片（不論是哪個陣營），你會感到驚訝嗎？目前而言如果俄國不嘗試這樣做，我才會感到驚訝——問題是影片可以傳播給多少人看。」

牛津大學人類未來研究所的研究員布倫達治（Miles Brundage）早前曾警告，今年美國中期選舉可能是首次有人惡意使用「深度造假」引起混亂的機會，但他還不確定，所以未有下注。他說︰「這就像數碼安全漏洞一樣——在真正重要的時刻來臨之前不要使用，因為太早使用的話，人們便有機會適應。」然而他認為，以人手打造而非使用深度學習技術的影片，仍有可能更具破壞力，所以他未有下注。

政治以外

黃認為，目前的「深度造假」技術仍有待改善，而且很多情況下會失敗，製作可信假影片所需的運算能力讓一般用戶無法做到，目前尚有其他不靠深度學習技術的數碼造假方法。此外他又指出，有研究人員正調查如何偵測「深度造假」影片，當「深度造假」變得普及時這些技術或能夠有效制衡，大型網絡平台如Facebook和YouTube等亦有誘因研究，以辨認甚至移除「深度造假」影片。

不過，技術難以普及並不代表帶政治目的的「深度造假」影片不會出現。另外，如果「深度造假」影片是指利用深度學習技術製作的假影片，而不限於最初有關程式的「換臉」方式，現時已有人研究出為目標人物——例如奧巴馬——配上特定動作、說話的技術，即使未有普及的製作方式，具充足資源的勢力仍有可能在今年美國中期選舉期間發放假影片，干預選舉結果。

到底2018年完結前，會否出現首段廣傳的政治「深度造假」影片？最長還需要半年才知道答案。

「深度造假」影片帶來的威脅不限於黑客用來意圖影響民主選舉，技術普及後，在尋求娛樂的網民手上會有何影響，同樣值得關注。格拉克說︰「我想的是，假如製作有趣的假影片就像今天製作meme一樣，成為另一種消遣，那會發生甚麼事？我認為那些只想尋開心的人，集體而言會比個別壞人更危險。」

相關文章︰

資料來源︰


TNL 網路沙龍守則

TNL網路沙龍是關鍵評論網讓讀者能針對文章表達自身觀點的留言區。我們希望在這裡，大家可以理性的發表自己的看法，並對不同的論點保持開放心態，促進多元意見的交流與碰撞。

現在網路上的留言討論常淪為謾罵與攻擊的場域，反而造成了彼此更大的歧異，無法達成討論與溝通的目的。

為了改善這個問題，我們希望打造一個讓大家安心發表言論、交流想法的環境，讓網路上的理性討論成為可能，藉由觀點的激盪碰撞，更加理解彼此的想法，同時也創造更有價值的公共討論，所以我們推出TNL網路沙龍這項服務。

我們希望參與討論的你謹記以下幾個基本守則，與關鍵評論網一起提升網路沙龍的品質：

  • 尊重多元：分享多元觀點是關鍵評論網的初衷，沙龍鼓勵自由發言、發表合情合理的論點，也歡迎所有建議與指教。我們相信所有交流與對話，都是建立於尊重多元聲音的基礎之上，應以理性言論詳細闡述自己的想法，並對於相左的意見持友善態度，共同促進沙龍的良性互動。
  • 謹慎發言：在TNL網路沙龍，除了言論自由之外，我們期待你對自己的所有發言抱持負責任的態度。在發表觀點或評論時，能夠盡量跟基於相關的資料來源，查證後再發言，善用網路的力量，創造高品質的討論環境。並且避免對於不同意見的攻擊、惡意謾罵言論。

為了鼓勵多元評論與觀點的碰撞激盪，並符合上述兩個守則前提下，我們要求所有沙龍參與者都遵守以下規範，當您按下同意開始使用本沙龍服務時，視為同意此規範：

  • 您同意為您自身言論負完全法律責任，您不會發表不適當言論，包含但不限於惡意攻擊言論、歧視言論、誹謗言論、侵害他人權利或任何違法情事。
  • 您同意您不會張貼任何帶有商業行銷或廣告直銷之勸誘式廣告內容。
  • 本集團有權管理沙龍所有內容，以利維護沙龍良性的溝通環境與氛圍。
  • 本集團有權隨時新增或修改此規範，如有增修將公告於本網站。若公告後您仍繼續使用本網站，即視為同意接受增修版規範。