人工智能「未來報告」-AI暗殺計劃、聯天機器人黑客、偽造影片

人工智能「未來報告」-AI暗殺計劃、聯天機器人黑客、偽造影片
photo credit: REUTERS/Maxim Shemetov/達志影像
我們想讓你知道的是

把無人機改造成殺人武器、偽造影片以操控輿論、自動攻擊其他電腦系統⋯⋯在在都是犯罪分子、流氓國家夢寐以求的技術,現在大概都已好好掌握了。

唸給你聽
powered by Cyberon

專家再度發出有關人工智能(AI)的警告,這次指向新的風險——惡意使用AI。

把無人機改造成殺人武器、偽造影片以操控輿論、自動攻擊其他電腦系統⋯⋯在在都是犯罪分子、流氓國家夢寐以求的技術,現在大概都已好好掌握了。

來自牛津大學、劍橋大學、Google DeepMind 及Elon Musk等人聯合創辦的OpenAI、電子前線基金(Electronic Frontier Foundation)等組織的20名科研人員,合作撰寫長達100頁的報告,題為「惡意使用人工智能」(The Malicious Use of Artificial Intelligence report )。

報告警告:「AI的發展已成熟到可以被流氓國家,罪犯和恐怖分子充分利用。」呼籲AI的設計者要提高警覺,各政府應考慮在這方面制定新的法例。

報告列舉一系列AI被惡意使用的可能性,認為在未來5年,可能會成為令人頭痛的問題。當中包括:

透過社交平台搜集個人資訊,包括社交和專業圈子的資料,然後偽造銀行或親友信件,騙取更多個人資料。其中一個可能被利用的模式是聊天機器人,它會成為為你解悶的好朋友,然後有一天你發現,它對你瞭如指掌,包括你的電郵密碼。別以為這樣的技術要花很多功夫,歹徒只需一個程式,就可以在無額外成本下無限次循環使用。海裡的魚多的是。

機器人除了可以個別聊天「釣魚」之外,當然還可以扮網民製造「民意」,左右選舉,現實中早已存在,這些技倆只會做得愈來愈好。

至於一些突破性的科技成果,例如「AlphaGo」的技術,則可能被黑客用來搜集數據或查找程式漏洞。

臉孔識別技術的用途就更危險,可以配置無人機,無人駕駛汽車或者清潔機器人,成為暗殺武器。

劍橋大學旗下的生存風險研究中心(the Centre for the Study of Existential Risk)行政總裁Dr Seán Ó hÉigeartaigh說:「AI顛覆了遊戲規則,而這份報告告訴我們,未來10年的世界,可能會變成什麼樣子。」「濫用AI隨時可以危害我們這個世界,這些風險確實存在,我們必須採取主動控制風險,這是當下就要做的決定,不論政府、機構,甚至個人都要行動。」

相關文章︰

資料來源︰

或許你會想看
更多『新聞』文章 更多『國際』文章 更多『周雪君』文章
Loader