人工智能學者、科技公司聯署 承諾不研發「殺手機械人」

人工智能學者、科技公司聯署 承諾不研發「殺手機械人」
Photo Credit: Sipa via AP Images / 達志影像

我們想讓你知道的是

多名人工智能領域方面的學者、研究人員以及科技公司聯署公開信,呼籲各國政府及領袖反對「自主致命武器」,並承諾不參與研發相關武器。

雖然人工智能發展尚未到達科幻電影中出現「殺手機械人」的地步,然而這項技術在軍事方面肯定大有用途,不少人擔心終將出現能夠自主作決定的致命武器。

多名人工智能領域方面的學者、研究人員以及科技公司在本星期三(18日)聯署公開信,呼籲各國政府及領袖透過國際規範、規則及法律,共同反對「自主致命武器」。而在這些法規尚未出現之時,他們現時承諾不會參與或支持這類武器的研究、製造、貿易及使用,並呼籲其他科技公司及組織參與聯署。

公開信表示,取去一個人性命的決定絕不應交給機器處理,而且一旦研製出自主致命武器,讓機器可以在不受人類介入的情況下選擇及殺害目標,將會對所有國家及每個人帶來危險。公開信指數以千計的人工智能研究者均同意,只要移除殺人的風險、責任和困難,自主致命武器會成為壓迫及暴力的有力工具——特別是在結合監控和數據系統的情況下。

信中又提到自主武器跟核武、化武及生物武器不同,單一群體已能輕易引起武器競賽,為全球各國安全著想,應致力批評及阻止這類武器競賽。加拿大電腦科學家、蒙特利爾學習演算法研究所總監Yoshua Bengio表示,聯署或能令公眾向製造自主武器的公司及軍事組織施加壓力,阻止研發有關武器。

公開信於國際人工智能聯合會議(IJCAI)期間發表,現有超過2400人及160個組織參與。聯署由「生命未來研究所」(Future of Life Institute)推動,該組織致力降低科技對人類帶來的風險,現時目標集中在人工智能方面。

聯署組織包括研發出AlphaGo的Google DeepMind、歐洲人工智能聯會(EurAI)、倫敦大學學院及里斯本大學等,以個人名義聯署者包括DeepMind三名創辦人、著名物理學家及生命未來研究所創率人之一Max Tegmark、Tesla及SpaceX等科技公司的創辦人和行政總裁Elon Musk等,此外亦有多位電腦科學、人工智能方面的教授參與。

今年四月,Google有數千名員工聯署,呼籲該公司不要染指戰爭生意——該公司因為跟美國軍方合作的Maven計劃而備受批評,更有員工辭職抗議。今年5月,多個團體聯署要求亞馬遜停止向美國警方提供其臉部識別技術,以免協助政府大規模監控民眾。

相關文章︰

資料來源︰


Tags: