Elon Musk與其他AI專家呼籲:全面禁止機器人武器

Elon Musk與其他AI專家呼籲:全面禁止機器人武器
Photo Credit: Reuters/達志影像

我們想讓你知道的是

這些機器人專家最擔心的是關於平民所面對的風險。他們在信中寫到:「這些機器人可能被當作用於恐怖意圖的武器、被當作暴君與恐怖份子施加於無辜百姓的武器、甚至是一種被駭入便會出現許多令人擔憂的行徑的武器。」

文:David Z. Morris
譯:許睿洋

日前,SpaceX創辦人馬斯克(Elon Musk)與Google Deepmind共同創辦人蘇萊曼(Mustafa Suleyman)等一百一十六位機器人專家與人工智慧研究人員,簽署了一封公開信,要求聯合國更嚴格地監督自主武器(autonomous weapons),亦即「殺人機器人」。儘管該封信本身措辭謹慎,但另一篇相關新聞稿表示他們想「在全球皆禁止這類武器的使用」。

其他簽署人包括來自丹麥的Universal Robotics、加拿大Element AI,以及法國Aldebaran Robotics的執行長與創辦人。

信中使用嚴重的措辭來形容機器人武器的風險,並表示有力回應是當前迫切需要的。該封信的目標對象是一群正在考慮將機器人武器納入《特定常規武器公約》(Convention on Certain Conventional Weapons)的聯合國官員。回溯至1981,該公約和相關條約限制了化學武器、雷射致盲武器、地雷、以及其他被認為會造成「戰鬥員不必要或不正當痛苦,以及無差別地損及平民」的武器。

機器人戰士理論上來說能夠減少人類士兵的傷亡,至少對那些最富有、最發達的國家應能如此。但馬斯克、蘇萊曼和其他機器人專家最擔心的是關於平民所面對的風險。他們在信中寫到:「這些機器人可能被當作用於恐怖意圖的武器、被當作暴君與恐怖分子施加於無辜百姓的武器、甚至是一種被駭入便會出現許多令人擔憂的行徑的武器。」

信中也警告,若不能立即有所作為,可能會造成殺人機器人的「軍備競賽」—但事實上這已經正在發生了。自主武器系統或先導科技已可從包含雷神公司(Raytheon)、達梭集團(Dassault)、MiG和BAE系統等企業取得,或正在研發當中。

Element AI創辦人本吉奧(Yoshua Bengio)還提出一項有趣的警告,即作為武器用途的人工智慧,實際上可能「損害人工智慧良性使用的未來發展」。這正是法蘭克赫伯特(Frank Herbert)所著的科幻小說《沙丘魔堡》(Dune)中預見的劇情,在書中的時空背景下,所有具思考能力的機器都因其過去戰爭中所扮演的角色而遭到禁止。

聯合國武器小組原先訂於8月21日(周一)進行會面,但根據報導,該會議已被延後至十一月。

© 2017 Time Inc. 版權所有。經Time Inc.授權翻譯並出版,嚴禁未經書面授權的任何形式與語言版本轉載。

責任編輯:朱家儀
核稿編輯:翁世航