custom_header
特別報導

【TIME】【FORTUNE】全球中文獨家授權

讓電腦科學家難以入眠的大事:當「勒索軟體」結合人工智慧

2019/07/02 , 評論
FORTUNE
Photo Credit: Yun Dong-jin / Yonhap via AP, File / 達志影像
FORTUNE
財星雜誌是商業財經媒體中的全球領導者,旗艦內容包含全球前五百大企業報導、百大最佳企業雇主。

文:BERNHARD WARNER
譯:王國仲

一年前,網路安全專家發現令人擔憂的新趨勢:駭客正向大型目標(美國城市)發動勒索軟體攻擊。電腦系統癱瘓後,亞特蘭大、巴爾的摩、格林維爾等大城,從繳停車費到房屋買賣,所有日常生活都會受到干擾。

讓電腦科學家亞當.庫賈瓦(Adam Kujawa)整晚無法闔眼的下一件大事──結合人工智慧(Artificial Intelligence, AI)的勒索軟體。這些程式能為RobbinHood或WannaCry等病毒,帶來強而有力的新改造,避開防火牆、深入電腦網路並造成混亂。

近年來,對IT安全人員來說,AI和機器自主學習像天上掉下來的禮物,幫助他們快速偵測惡意軟體(甚至在它們啟動的瞬間就能發現),讓網路和企業資產更加安全。但專家警告,相同技術亦可能帶來毀滅性威脅。

擔任加州聖克拉拉病毒位元實驗室(Malwarebytes Labs)主任的庫賈瓦表示:「整個產業正走向AI以尋求保護,但許多公開資源與社群發展平台卻可能成為網路犯罪的溫床。」他花費5年時間,為美國海軍解析惡意程式。在惡意軟體的時代,重點不是事件「會不會」發生,而是「何時」發生。

被要求預測AI勒索病毒爆發的情形時,庫賈瓦認為「明年(2020年)年底就會觀察到明顯情況」。換句話說,剛好趕上美國總統大選。

資訊安全部門積極討論高升的新危機。當世界漸漸轉向AI、機器自主學習與神經網路自動操控的電腦資訊系統,情況更顯真實。病毒位元實驗室本周(原文發表於6月21日)發布一份基於AI系統的安全評估報告,希望在AI逐漸成為主流的同時,搞清楚真正威脅和科幻小說情節間的異同。

報告警告的其中一件事是換臉應用(Deepfake)──藉由AI讓影片中的人說出任意字句。若有心人士將Deepfake用在尋常上班族身上,情況會更加嚴重。作者寫道:「試想,你接到老闆的視訊電話,指示你把資金匯入某個日後報銷的商務旅行帳戶……Deepfake在魚叉式網路釣魚攻擊上相當有說服力,相當難辨其真偽。」

另一項威脅是藉AI編寫精心規劃的社群騙局,誘使個人洩漏自身資訊。例如:一個精明的網路罪犯編寫AI,找尋大型公司或特定社群易得手的目標。在爬梳LinkedIn、Twitter和Instagram等社群軟體後,編造出幾可亂真的專業經理人(或他的助理)假帳號。帳號一經成立,便能有效率地針對受害者進行魚叉式網路釣魚電子郵件攻擊。

正如庫賈瓦所說,最大的弱點始終是最終用戶。藉由AI,這種找尋目標的規模將會擴大,甚至一次性識別整個企業界的數千人。

機器大軍在AI世界中占據全新層面。研究人員已證實,機器自主學習能輕鬆通過保護電腦伺服器不受惡意程式攻擊的CAPTCHA安全協議。庫賈瓦認為,駭客能利用這些漏洞建立機器人大軍,將更有說服力的垃圾信件和假新聞投遞給更多人。

不過,仍有一線希望:白帽AI研究者目前還領先網路犯罪一步。多年來,研究者致力於AI安全風險研究,模擬各種尚未付諸實行的攻擊。安全專家坦承,領先幅度正逐漸縮小,幸好政府似乎正確收到了訊息。2月份,川普(Donald Trump)總統簽署一項行政命令,促進AI研究與開發,確保「以技術最大限度地減少惡意攻擊的可能性」。

©2019 Time Inc.版權所有。經Time Inc.授權翻譯並出版,嚴禁未經書面授權的任何形式與語言版本轉載。

責任編輯:朱家儀
核稿編輯:翁世航

專題下則文章:

臉書、Google將面臨的挑戰:為每個用戶的使用者數據訂價

【TIME】【FORTUNE】全球中文獨家授權:

《關鍵評論網》獨家獲得時代雜誌與財星雜誌全球中文數位版授權,將每日提供兩大媒體品牌文章的中文譯文,題材涵蓋國際政治、財經、科技、文化、歷史、生活、娛樂等各領域。

看完整特別報導