當警察、軍方甚至恐怖份子都在用武裝機器人,我們早已處於科幻電影的「真實情境」中

當警察、軍方甚至恐怖份子都在用武裝機器人,我們早已處於科幻電影的「真實情境」中
Photo Credit: Marcelo Braga @ Flickr CC BY 2.0
我們想讓你知道的是

電影《鑽石宮》、《刀鋒戰士》、《機器戰警》、《魔鬼終結者》、《機械公敵》裡面的殺人機器人令人憂心,但很不幸地,我們可能已經處於類似情境的早期階段。

(編按:日前美國達拉斯抗議種族歧視的遊行演變為嚴重的警民衝突,槍手趁隙襲擊在示威現場中出現的警察,造成五名警察身亡,最後警方決定出動一個攜帶炸彈的機器人將槍手炸死。據了解,這是美國警方首度以武裝機器人殺人的案例,此案引發各界爭議,質疑「利用高科技消滅罪犯」的道德與法律爭議。關鍵評論網特別挑選《未來的犯罪》一書中和機器人有關的幾個段落,帶讀者一起探討不久的將來人與機器人的關係。)

文: 馬克.古德曼(Marc Goodman)

我們,機器人

在未來,我相信生活中的各個層面都會有更多機器人。如果我在1985年的時候說,再過25年人人的廚房裡都會有電腦,那時不會有人相信。—羅德尼.布魯克斯(Rodney Brooks)

近年來,機器人具備愈來愈多先進功能,例如高解析度攝影鏡頭、觸摸感應器、雷射測距儀,全部由電腦統合運用。機器人透過致動器來運動,有電動馬達連接到齒輪,推動車輪、腿和手臂,就像肌肉推動人體的動作一樣。而機器人這個領域之所以有巨大的進步,一大原因也是來自智慧型手機的革命,因為機器人所依賴的晶片、電池和感應器,很多都和你口袋中那支功能日益強大的手機一模一樣。

機器人正在進入我們的三維空間,與我們共用這個空間。而就像所有連接到物聯網的物品,機器人也可能被駭客攻擊,但後果可能更為嚴重。在網路犯罪這短短的歷史之中,它一直就是隱藏在電腦螢幕之後,這種二維的問題影響的可能是你的錢包、或是你的銀行帳戶,如此而已。但隨著機器人科技進步,網路犯罪將會逃脫其虛擬束縛,強勢進入我們的物理空間。不過,我們對於接下來可能發生的事情毫無準備。

根據《哈佛商業評論》2013年1月號的一篇報導,2003年,五角大廈麾下只有不到50架無人機。但今天美國擁有全球最多的軍事機器人,「在全球部署約11,000架無人機、12,000地面機器人。」這些機器裝備精良、效果致命,已經奪去幾千條人命。據估計,在2011年,每50個在阿富汗的美國駐軍就有1個機器人,而到了2023年,美國軍力可能每10個人就有1個機器人。

機器人科技及自主機器的未來

未來的機器人,將會變得更快、更聰明、也更小,像是微型機器人這個領域就已有極大進展。現在的機器人有的小到可以放在指尖,也有的可以遠端操控讓它們飛行,還能配備高解析度攝影機和麥克風,讓監控隱私的問題來到新的層次。早在2007年,據稱便已在華盛頓特區使用蜻蜓無人機來監視反戰示威人士;美國空軍也發表了昆蟲大小的「大黃蜂機器人」,能夠悄悄潛入敵方環境偵測,或是進到建物之中「拍照、記錄,甚至是攻擊恐怖分子」。

機器人科技即將實現的另一項突破則在於「群」的功能,也就是讓系統結合許多機器人,透過集體行為共同行動,模仿著自然界螞蟻合作、鳥類成群飛翔的情形。運用先進的分散式運算能力,讓成群的機器人自我組織、解決問題,透過彼此協調,進行救災、搜救、石油洩露,或是製造,達到驚人的效果。

事實上,群體智慧這個領域已有很大進展,2014年間,哈佛大學研究人員就組織起史上最大的機器人群,使用美元一分錢大小的1,024具微型機器人,它們能夠找到彼此、互相合作,結合成各種形狀和設計,例如星形、字母,簡直就像一群機器快閃族。然而,講到自行組織、通力合作的機器人,似乎也是風雨欲來:它們也可能成為一股邪惡的力量。有一台無人機裝著手槍、在街上追著你飛,這已經夠糟了。但如果這裡講的是30台,那就真的是恐怖至極、九死無生。

此外,一旦成群的機器人成為大眾使用的商品,如果遭駭或是感染病毒,就可能釀成一場巨災。例如在電視影集《銀河飛龍》裡,企業號的艦員就是使用電腦病毒,成功打倒生化集合體的博格人;只不過,這次被摧毀的可能是我們。如果軍隊開始大量使用武裝UAV(無人航空載具)、以群的形態來攻擊敵人,但它們卻染上了病毒(例如之前美國無人機的例子),發生倒戈相向或傷害無辜平民的情況,不是很容易嗎?

4133498804_0e04d45d1f_o
Photo Credit: Asociación Aire @ Flickr CC BY SA 2.0

展望未來,除了會有愈來愈小的機器人成群向我們湧來,還會有愈來愈能夠自主的機器人:智慧型機器人,能夠在現實世界自行執行任務、下判斷,而無需明確的人類操縱。像是Roomba吸塵器這種掃地機器人,雖然是依據程式來下決定,但做決定的時候則是依即時的狀況自行處理,例如「撞到東西就離開」這種演算法,就能讓它四處移動、躲開障礙,也就能分析適應陌生的環境。

然而,講到軍事機器人,就會出現一些關於自主最困難的問題:什麼時候算是「太自主了」?如果講的是地面的醫療機器人,能夠從戰場自主救出傷兵、並進行可能挽救生命的急救措施,聽起來是個好主意。但如果講的是空中的UAV,能夠搜尋目標、自主決定開火擊殺,很多人就會覺得好像可以再想一下。然而,這正是我們發展的方向。隨著機器人科技、人工智慧和電腦的處理速度不斷指數提升,在達到某個點之後,人類必然就再也跟不上,而在戰爭這個領域特別如此。如果敵人已經走向全自主作戰方式,你就不得不跟進,否則只能等著被毀滅。

雖然這聽起來就像是電影《魔鬼終結者》裡的情節,但自主殺人機器其實已經存在了。英國的雷神無人機(BAE Systems Taranis)就是一架完全自主的飛機,能夠「飛行深入敵方領土收集情報、投擲炸彈,以及『自我防衛,對抗敵方有人或無人戰機』」。而在朝鮮半島的非軍事區,南韓就部署了三星的SGR-1邊境管制狙擊機器人,能夠使用熱能及動作感應器偵測入侵者,並對最遠可到1公里外的目標自動開火,用的是內建的5.5mm(即5.5公釐)機槍、以及40mm榴彈發射器。

雖然現在因為政策的關係,邊境機器人攻擊之前需要先得到人類授權,但在技術上,只要開關一扳,這些機器就完全能夠自主處理。致命的自主殺手機器人能夠有各種不同形式:地上走的、水裡游的、天上飛的、路上開的,它們可以主動追逐獵物,或者靜靜埋伏等待。然而,雖然我們的科技能力已經進展到能夠將屠殺這件事外包給機器,然而這件事仍然是充滿各種法律、倫理、道德、技術和安全的問題有待考量。

機器人造成工業事故已經夠糟了,但持有自動武器的機器人一旦出意外,就可能釀成可怕災難。隨著機器人數量激增,我們面臨的後果也就是摩爾定律加上墨菲定律。如果機器人可以自行決定何時開火,面對我們的程式編寫不佳、資料不夠準確,再加上軟體錯誤,無疑會導致悲劇。

此外,如果武裝機器人連上了物聯網,不論是機器人本身、或是其安全功能和協定都可能被駭,這又是另一個需要考量的重大危險。此外,還有殺手機器人被專制政府用來平息抗爭、被販毒集團用來屠殺警察及其他對手的問題。要說到犯罪有限公司有一天會擁有自主殺戮的機器人,現在聽來可能覺得誇張,但這絕對是必然的走向,正如他們現在已經擁有大批過去的軍事科技,包括夜視鏡、網際網路、UAV等。

對於這種將殺人的決定交給機器的做法,人權和科技專家都提出了憂慮。同時關注這項議題的,還包括聯合國、人權觀察組織(Human Rights Watch),以及像是國際機器人武器控制委員會(International Committee for Robot Arms Control)和「禁止殺手機器人運動」(Campaign to Stop Killer Robots)這類新組織。科幻作家丹尼爾.史瓦雷茲(Daniel Suarez)和機器人專家諾亞.沙奇(Noel Sharkey)也在TED針對這個主題做出慷慨激昂的演講,疾呼應全球禁止讓機器人自主殺害或傷害人類。

機器人權利、法律、倫理和隱私

人無道德,就如釋放在世上的野獸。—卡繆(Albert Camus)

目前已經可以預見機器人在未來無所不在的前景,但面對這些科學發展會給人類帶來的複雜問題,我們嚴重缺乏能夠妥善應對的機器人倫理學家、政策專家及立法者。隨著整個社會使用機器人的數量不斷增加,問題無疑只會更多。或許可以說艾西莫夫(Isaac Asimov)是最早試著要處理這些基本問題的人:他在1942年的短篇小說〈轉圈〉(Runaround)裡提出了英文「robotics」(機器人科技)一詞,以及著名的「機器人三法則」(ThreeLaws of Robotics):

1. 機器人不得傷害人類,或因不作為使人類受到傷害;

2. 除非違背第一法則,否則機器人必須服從人類的命令;

3. 在不違背第一及第二法則下,機器人必須保護自己。

要思考這些議題,艾西莫夫是個很好的起點。但我們都還沒法透過編程讓機器人具體瞭解「早餐」的概念呢,更別說是抽象的「傷害」了。機器人可能需要的會是一個比較靈活、具備適應性的道德準則,但我們離建構這個準則的進度還差得遠。然而,現在整個趨勢仍然是讓各種工業、軍事、醫療和個人用的機器人不斷繼續發展及擴張,於是意外發生也是必然之事。

事實上,恐怖分子也使用機器人作為武器,而且他們看上的可不只是那些酬載有限的消費級UAV。在伊拉克和阿富汗,恐怖分子已經用起了VBIED(vehicle-borne improvised explosive device,車載簡易爆炸裝置)也就是俗稱的汽車炸彈,能夠一次摧毀多座建築、撼動整個街區,有些汽車炸彈裝載的炸藥重達七千磅。VBIED威力強大,曾在全球多次毀滅目標,其中包括在沙烏地阿拉伯的胡拜爾美軍軍營(Khobar Towers)、美國在貝魯特的海軍陸戰隊軍營,以及在奧克拉荷馬州的默拉聯邦大樓(Murrah Federal Building)。

而且,現在恐怖分子還正在使用機器人武器取代過去的VBIED能力。在線上就有一則影片,一群「伊斯蘭輔助者組織」(Ansar al-Islam)的工程師戴著阿拉伯頭巾,對自己的科技能力大放厥辭,大夥擠成一團,焊著電腦的電路板。在這部長約四分鐘的影片裡,下一個場景是一輛小貨車開在沙漠中,車後架著一台三腳自動機槍。隨著鏡頭拉近,顯然駕駛座上沒人,車子是靠著簡陋的機器人裝置,控制方向盤和油門及煞車踏板。不一會,機槍猛烈開火,也是透過遠端遙控的機器人按下的扳機。

有了這樣的系統,聖戰士就不用再犧牲自己了。執法單位並沒有忽視自動駕駛車輛可能的犯罪用途,FBI就發出一份內部報告,講到他們擔心這在將來可能成為致命的武器。官方預測,可能會有歹徒利用機器人駕駛作為VBIED,事先編寫程式讓它們自動駕駛跨越整個城市,在抵達預定目標之後引爆。電影《鑽石宮》(Westworld)、《刀鋒戰士》(Blade Runner)、《機器戰警》(RoboCop)、《魔鬼終結者》、《機械公敵》(I, Robot)裡面的殺人機器人令人憂心,但很不幸地,我們可能已經處於類似情境的早期階段。

書籍介紹

未來的犯罪:當萬物都可駭,我們該如何面對》,木馬文化出版

*透過以上連結購書,我們由此所得將全數捐贈兒福聯盟

文:馬克.古德曼(Marc Goodman)

繼桌上型電腦、手提電腦、無線網路、手機之後,「物聯網」(Internet of Things, IoT)是必然的下一趨勢。在未來的世界裡,一切物件都會互相連結起來,帶來許多想像不到的方便和商機,但也帶來許多想像不到的犯罪手法,我們夾在科技瘋狂飛快進展及眾多手段厲害的罪犯之間,應該如何自保?全球資訊安全專家 馬克.古德曼為我們解讀犯罪的未來,提出因應之道。

(木馬)未來的犯罪_立體書封_圓角300dpi
Photo Credit: 木馬文化

責任編輯:孫珞軒
核稿編輯:楊之瑜