被指參與研發人工智能武器、殺手機器人 南韓大學遭50多名科研學者杯葛

被指參與研發人工智能武器、殺手機器人   南韓大學遭50多名科研學者杯葛
Photo Credit: Dick Thomas Johnsonflickr, CC BY 2.0
我們想讓你知道的是

韓國科學技術院夥拍南韓著名武器生產商Hanwha系統,展開一項涉及軍事的人工智能研究計劃,令學術界大為震驚,來自30個國家的超過50名學者發起杯葛行動。

來自全球近30個國家的50多名人工智能研發學者、人員,發起杯葛韓國科學技術院(KAIST)行動。

事緣韓國科學技術院夥拍南韓著名武器生產商Hanwha系統,在2月開展一項人工智能(AI)軍事研究計劃,引發外界憂慮計劃將研發出人工智能武器,甚至是「殺手機器人」(killer robots),並間接催谷各國進行自動化武器的軍事競賽。

逾50名研究人工智能的學者聯署公開信,呼籲業界杯葛韓國科學技術院。他們表示,將不會訪問韓國科學技術院,也不會與學院進行任何合作計劃。公開信指,「只要一開發出自動化武器,戰爭的速度就會以幾何級數提升,也可能會被恐怖分子所利用。」

「韓國科學技術院可是一家享有良好聲譽的大學,卻選擇跟道德上非常可疑的夥伴合作。」發起杯葛的新南威爾士大學教授Toby Walsh說。「人工智能可以做的好事多的是,也包括軍事方面,例如用於拯救行動,但公開表明以發展自動化武器為目標,還要夥拍軍火製造商,實在令人大感憂慮。」

「我們絕對不能把誰可以生存、誰人要死,交給機器來決定,這已超越道德的界線。」

韓國科學技術院在消息曝光的數小時後迅速回應,強調絕對無意參與研發致命的自動化武器系統或殺手機器人,校長Sung-Chul Shin說:「我再次保證,KAIST絕對不會參與任何有機會損害人類尊嚴的研究工作,包括自動化武器研究。」

韓國科學技術院表示,合作計劃主要是把人工智能應用於指揮及控制系統、深海導航、智能飛行器訓練、追蹤及確認目標。

Toby Walsh認為,韓國科學技術院的回應提出兩點重要的讓步,一是承諾不會發展自動化武器,一是確保會有人類監控。不過,他認為目前不清楚學院方面會如何監控計劃,舉例說,當無人深海潛艇去到無法傳遞訊號時,可以怎樣監察其行動。

聯合國下星期將於日內瓦舉行會議,討論人工智能在軍事方面的應用,超過20個國家已提出要永久禁止製造殺手機器人一類的自動武器。估計韓國科學技術院的計劃將成為會議焦點話題之一。

Walsh暫時未決定是否取消杯葛行動,他表示需要同各聯署人商討才有定論。