《科技選擇》:我們能讓人工智慧驅動的機器人「自主殺人」嗎?

《科技選擇》:我們能讓人工智慧驅動的機器人「自主殺人」嗎?
Photo Credit: Depositphotos

我們想讓你知道的是

人類心理與情緒都有脆弱的一面,在廝殺慘烈的戰場上,就算最習慣征戰的軍人,也難保不會一時精神錯亂。如果能用程式控制機器人,避免這些弱點,是不是更道德?

文:費維克・華德瓦(Vivek Wadhwa)、亞歷克・沙基佛(Alex Salkever)

可以讓機器人殺人嗎?

日本或許贊成用機器人保護老人,維護它的經濟,但一個更具爭議性、對人類衝擊更加大得多的議題也已經惹起熱議。這項辯論的焦點是,我們能不能讓人工智慧驅動的機器人自主殺人。2015年7月,兩萬多人聯署一分公開信,呼籲通過全球性的禁令,禁止使用致命的自主殺戮機器。這些聯署人中有1000人是人工智慧研究人員與技術專家,其中包括伊隆.馬斯克、史蒂芬.霍金、與史蒂夫.沃茲尼克(Steve Wozniak)。他們的邏輯很簡單:一旦展開研發能夠自主殺戮的軍用機器人科技,也會像所有其他科技一樣,循著同一成本與能力曲線發展;在不久的將來,人工智慧殺戮機器會成為商品,每一個獨裁者、民兵團體、與恐怖組織只需花錢,都可以買得到。此外,當然,專制(甚至剛愎自用的民主)政府也能用這些機器控制人民,迫使人民就範。

除了少數軍界人士以外,這是幾乎每個人都同意的觀點。甚至是機器人科技最死忠信徒的雷.庫茲威爾(Ray Kurzweil),也堅決反對透過程式研發,讓機器人在未經人類控制人同意的情況下自行殺人。他認為,研發這樣的程式違背道德。還有一些批判人,例如「開放機器人」(Open Roboethics)計畫創辦人文愛姜(AJung Moon,譯音)就擔心,縱容這樣的科技會讓我們陷入一種機器人肆無忌憚、不聽使喚的世界。此外,就像DeepMind在圍棋棋盤上展現的那樣,機器人的智慧一旦達到某一程度,至少在它們精通的規則與環境範圍內,難保不會有自己的主見。

支持研發自主殺人機器的軍界人士說,用機器人上戰場遠比派遣人類上戰場更加道德。經過程式調控、不會攻擊婦女與兒童的機器人,在戰場壓力下不會精神崩潰。他們認為,如果當時由機器人領軍,不會發生美萊村屠殺事件(Mai Lai,按:美軍於越戰期間在越南廣義省美萊村屠殺數百村民)。更何況,他們還說,程式邏輯有一種了不起的能力,能將核心道德議題剖析為二元式決定。舉例說,為挽救校車上所有學童的性命,機器人可以在一秒內做出決定,犧牲那位打瞌睡的駕駛。

這些論點都很有趣,而且也並非全無道理。人類心理與情緒都有脆弱的一面,在廝殺慘烈的戰場上,就算最習慣征戰的軍人,也難保不會一時精神錯亂。如果能用程式控制機器人,避免這些弱點,是不是更道德?在難以判斷對手是否遵循任何道德律的情況下(例如與伊斯蘭國〔ISIS〕恐怖分子交手時),與其依賴有情緒的軍人,依賴冷血機器戰士會不會更好?如果一個恐怖組織成功研發擁有戰場優勢的殺人機器人,又當如何?我們願不願意冒險,研發這種機器戰士?

對於這類問題,我的看法似乎有些玩世不恭:我不認為民眾真有那麼關心應不應該讓機器人殺人的問題,因為這種觀念似乎太過抽象。對於是否應該讓無人機裝備自主殺人凶器的問題,美國民眾一直興趣缺缺。事實上,甚至用機器人在美國境內殺人的問題,也沒有引起美國民眾注意。達拉斯(Dallas)警方用機器人帶了一枚炸彈,炸死涉嫌在抗議集會中殺害7名員警的米卡.布朗(Micah Brown)。沒有人對警方這種做法提出質疑。第一次使用自主機器人在戰場上殺人的事件,應該只會出現在距離美國很遙遠的地方,就像無人機第一次殺人的戰場遠在阿富汗與巴基斯坦一樣。

「開放機器人」計畫主張全面禁止研發自主殺人機器人,這項主張獲得幾乎所有民權組織與許多政界人士響應。這個議題會在今後幾年持續發酵。值得注意的,不僅是聯合國這類世界級治理機構會作成什麼最後決定,美國軍方是否願意針對這個問題簽署一項國際協定也讓我們關切。(在軍事科技領域擁有明顯全球優勢的美國,一直不肯簽署限制軍事科技的條約。) 

好處是否超過風險?

現在我們得談到近在眼前的問題了。機器人帶來的好處超過它的風險嗎?如果超過,我們該如何降低風險?就目前而論,全面阻止機器人進入社會與人世的嘗試已經失敗。Tug不會再回到包裝它的箱子裏。谷歌自駕車(替我們駕車的機器人)已經出現,看來也阻止不了。具備自動駕駛能力的特斯拉電動車,已經在我們的公路上走了好幾百萬英里。隨著人工智慧機器人不斷進步,新能力免不了一定會帶來我們始料未及的事物。最極端的風險是世界末日:機器人變得比我們還聰明,於是接管世界,讓人類在自己的星球上任由機器宰割。

另一個同樣惱人、雖說沒那麼攸關生死存亡、但更加現實的風險是,機器人會不斷搶走我們的飯碗。麻省理工學院(Massachusetts Institute of Technology,MIT)的艾利克.布里喬森(Erik Brynjolfsson)與安德魯.麥卡菲(Andrew McAfee)等研究人員就認為,機器人遲早會奪走我們愈來愈多的重要工作。

牛津大學(Oxford University)研究員卡爾.班尼迪.傅瑞(Carl Benedikt Frey)與麥克.奧斯本(Michael A. Osborne)在2013年9月發表研究報告,斷言人工智慧會讓美國47%的現有就業機會「有風險」,在美國造成軒然大波。這篇名為〈就業未來〉(The Future of Employment)的報告,針對科技創新對勞工市場與就業的影響,進行了嚴謹而詳細的評估。麥肯錫公司也在不久前的一篇研究報告中指出,「運用現有科技,僅有約5%的職業可以全面自動化。不過,今天的科技可以將人類支薪在各行各業進行的各項活動的45%自動化。更有甚者,約占6成的所有各行各業,可以將3成以上的業務活動自動化。」


猜你喜歡

Tags: