特別報導

伊隆馬斯克與其他AI專家呼籲:全面禁止機器人武器

2017/08/29 ,

評論

FORTUNE

Photo Credit: Reuters/達志影像
FORTUNE

FORTUNE

財星雜誌是商業財經媒體中的全球領導者,旗艦內容包含全球前五百大企業報導、百大最佳企業雇主。

我們想讓你知道的是

這些機器人專家最擔心的是關於平民所面對的風險。他們在信中寫到:「這些機器人可能被當作用於恐怖意圖的武器、被當作暴君與恐怖份子施加於無辜百姓的武器、甚至是一種被駭入便會出現許多令人擔憂的行徑的武器。」

文:David Z. Morris
譯:許睿洋

日前,SpaceX創辦人伊隆.馬斯克(Elon Musk)與Google Deepmind共同創辦人穆斯塔法.蘇萊曼(Mustafa Suleyman)等一百一十六位機器人專家與人工智慧研究人員,簽署了一封公開信,要求聯合國更嚴格地監督自主武器(autonomous weapons),亦即「殺人機器人」。儘管該封信本身措辭謹慎,但另一篇相關新聞稿表示他們想「在全球皆禁止這類武器的使用」。

其他簽署人包括來自丹麥的Universal Robotics、加拿大Element AI,以及法國Aldebaran Robotics的執行長與創辦人。

信中使用嚴重的措辭來形容機器人武器的風險,並表示有力回應是當前迫切需要的。該封信的目標對象是一群正在考慮將機器人武器納入《特定常規武器公約》(Convention on Certain Conventional Weapons)的聯合國官員。回溯至1981,該公約和相關條約限制了化學武器、雷射致盲武器、地雷、以及其他被認為會造成「戰鬥員不必要或不正當痛苦,以及無差別地損及平民」的武器。

機器人戰士理論上來說能夠減少人類士兵的傷亡,至少對那些最富有、最發達的國家應能如此。但馬斯克、蘇萊曼和其他機器人專家最擔心的是關於平民所面對的風險。他們在信中寫到:「這些機器人可能被當作用於恐怖意圖的武器、被當作暴君與恐怖份子施加於無辜百姓的武器、甚至是一種被駭入便會出現許多令人擔憂的行徑的武器。」

信中也警告,若不能立即有所作為,可能會造成殺人機器人的「軍備競賽」—但事實上這已經正在發生了。自主武器系統或先導科技已可從包含雷神公司(Raytheon)達梭集團(Dassault)MiGBAE系統等企業取得,或正在研發當中。

Element AI創辦人約書亞.班希奧(Yoshua Bengio)還提出一項有趣的警告,即作為武器用途的人工智慧,實際上可能「損害人工智慧良性使用的未來發展」。這正是法蘭克.赫伯特(Frank Herbert)所著的科幻小說《沙丘魔堡》(Dune)中預見的劇情,在書中的時空背景下,所有具思考能力的機器都因其過去戰爭中所扮演的角色而遭到禁止。

聯合國武器小組原先訂於8月21日(周一)進行會面,但根據報導,該會議已被延後至十一月。

© 2017 Time Inc. 版權所有。經Time Inc.授權翻譯並出版,嚴禁未經書面授權的任何形式與語言版本轉載。

責任編輯:朱家儀
核稿編輯:翁世航

專題下則文章:

《耶穌是王》:肯伊威斯特找到了上帝,卻失去了靈感



【TIME】【FORTUNE】全球中文獨家授權:

《關鍵評論網》獨家獲得時代雜誌與財星雜誌全球中文數位版授權,將每日提供兩大媒體品牌文章的中文譯文,題材涵蓋國際政治、財經、科技、文化、歷史、生活、娛樂等各領域。

看完整特別報導