《科技選擇》:我們能讓人工智慧驅動的機器人「自主殺人」嗎?

《科技選擇》:我們能讓人工智慧驅動的機器人「自主殺人」嗎?
Photo Credit: Depositphotos

我們想讓你知道的是

人類心理與情緒都有脆弱的一面,在廝殺慘烈的戰場上,就算最習慣征戰的軍人,也難保不會一時精神錯亂。如果能用程式控制機器人,避免這些弱點,是不是更道德?

文:費維克・華德瓦(Vivek Wadhwa)、亞歷克・沙基佛(Alex Salkever)

可以讓機器人殺人嗎?

日本或許贊成用機器人保護老人,維護它的經濟,但一個更具爭議性、對人類衝擊更加大得多的議題也已經惹起熱議。這項辯論的焦點是,我們能不能讓人工智慧驅動的機器人自主殺人。2015年7月,兩萬多人聯署一分公開信,呼籲通過全球性的禁令,禁止使用致命的自主殺戮機器。這些聯署人中有1000人是人工智慧研究人員與技術專家,其中包括伊隆.馬斯克、史蒂芬.霍金、與史蒂夫.沃茲尼克(Steve Wozniak)。他們的邏輯很簡單:一旦展開研發能夠自主殺戮的軍用機器人科技,也會像所有其他科技一樣,循著同一成本與能力曲線發展;在不久的將來,人工智慧殺戮機器會成為商品,每一個獨裁者、民兵團體、與恐怖組織只需花錢,都可以買得到。此外,當然,專制(甚至剛愎自用的民主)政府也能用這些機器控制人民,迫使人民就範。

除了少數軍界人士以外,這是幾乎每個人都同意的觀點。甚至是機器人科技最死忠信徒的雷.庫茲威爾(Ray Kurzweil),也堅決反對透過程式研發,讓機器人在未經人類控制人同意的情況下自行殺人。他認為,研發這樣的程式違背道德。還有一些批判人,例如「開放機器人」(Open Roboethics)計畫創辦人文愛姜(AJung Moon,譯音)就擔心,縱容這樣的科技會讓我們陷入一種機器人肆無忌憚、不聽使喚的世界。此外,就像DeepMind在圍棋棋盤上展現的那樣,機器人的智慧一旦達到某一程度,至少在它們精通的規則與環境範圍內,難保不會有自己的主見。

支持研發自主殺人機器的軍界人士說,用機器人上戰場遠比派遣人類上戰場更加道德。經過程式調控、不會攻擊婦女與兒童的機器人,在戰場壓力下不會精神崩潰。他們認為,如果當時由機器人領軍,不會發生美萊村屠殺事件(Mai Lai,按:美軍於越戰期間在越南廣義省美萊村屠殺數百村民)。更何況,他們還說,程式邏輯有一種了不起的能力,能將核心道德議題剖析為二元式決定。舉例說,為挽救校車上所有學童的性命,機器人可以在一秒內做出決定,犧牲那位打瞌睡的駕駛。

這些論點都很有趣,而且也並非全無道理。人類心理與情緒都有脆弱的一面,在廝殺慘烈的戰場上,就算最習慣征戰的軍人,也難保不會一時精神錯亂。如果能用程式控制機器人,避免這些弱點,是不是更道德?在難以判斷對手是否遵循任何道德律的情況下(例如與伊斯蘭國〔ISIS〕恐怖分子交手時),與其依賴有情緒的軍人,依賴冷血機器戰士會不會更好?如果一個恐怖組織成功研發擁有戰場優勢的殺人機器人,又當如何?我們願不願意冒險,研發這種機器戰士?

對於這類問題,我的看法似乎有些玩世不恭:我不認為民眾真有那麼關心應不應該讓機器人殺人的問題,因為這種觀念似乎太過抽象。對於是否應該讓無人機裝備自主殺人凶器的問題,美國民眾一直興趣缺缺。事實上,甚至用機器人在美國境內殺人的問題,也沒有引起美國民眾注意。達拉斯(Dallas)警方用機器人帶了一枚炸彈,炸死涉嫌在抗議集會中殺害7名員警的米卡.布朗(Micah Brown)。沒有人對警方這種做法提出質疑。第一次使用自主機器人在戰場上殺人的事件,應該只會出現在距離美國很遙遠的地方,就像無人機第一次殺人的戰場遠在阿富汗與巴基斯坦一樣。

「開放機器人」計畫主張全面禁止研發自主殺人機器人,這項主張獲得幾乎所有民權組織與許多政界人士響應。這個議題會在今後幾年持續發酵。值得注意的,不僅是聯合國這類世界級治理機構會作成什麼最後決定,美國軍方是否願意針對這個問題簽署一項國際協定也讓我們關切。(在軍事科技領域擁有明顯全球優勢的美國,一直不肯簽署限制軍事科技的條約。) 

好處是否超過風險?

現在我們得談到近在眼前的問題了。機器人帶來的好處超過它的風險嗎?如果超過,我們該如何降低風險?就目前而論,全面阻止機器人進入社會與人世的嘗試已經失敗。Tug不會再回到包裝它的箱子裏。谷歌自駕車(替我們駕車的機器人)已經出現,看來也阻止不了。具備自動駕駛能力的特斯拉電動車,已經在我們的公路上走了好幾百萬英里。隨著人工智慧機器人不斷進步,新能力免不了一定會帶來我們始料未及的事物。最極端的風險是世界末日:機器人變得比我們還聰明,於是接管世界,讓人類在自己的星球上任由機器宰割。

另一個同樣惱人、雖說沒那麼攸關生死存亡、但更加現實的風險是,機器人會不斷搶走我們的飯碗。麻省理工學院(Massachusetts Institute of Technology,MIT)的艾利克.布里喬森(Erik Brynjolfsson)與安德魯.麥卡菲(Andrew McAfee)等研究人員就認為,機器人遲早會奪走我們愈來愈多的重要工作。

牛津大學(Oxford University)研究員卡爾.班尼迪.傅瑞(Carl Benedikt Frey)與麥克.奧斯本(Michael A. Osborne)在2013年9月發表研究報告,斷言人工智慧會讓美國47%的現有就業機會「有風險」,在美國造成軒然大波。這篇名為〈就業未來〉(The Future of Employment)的報告,針對科技創新對勞工市場與就業的影響,進行了嚴謹而詳細的評估。麥肯錫公司也在不久前的一篇研究報告中指出,「運用現有科技,僅有約5%的職業可以全面自動化。不過,今天的科技可以將人類支薪在各行各業進行的各項活動的45%自動化。更有甚者,約占6成的所有各行各業,可以將3成以上的業務活動自動化。」

報告中並起說,僅僅具備自動化能力並不表示自動化比較划算。只要聘請時薪十美元的廚子比購置動力機器的漢堡製作機器人划算,速食業就業機會不會因自動化受損。

但想走回完全不用機器人的極端,已經不切實際。老齡化人口的巨型泡沫將壓得大多數已開發世界、以及中國等許多開發中國家喘不過氣。自駕車將在今後幾十年拯救千百萬條人命。更機靈、更聰明的機器人將取代人類,接掌開礦、救火、搜救、高樓與通信塔檢修等等高危險度的工作。

仔細回想起來,情況似乎是,只要機器人搶不走我們最獨特的本領,只要它們不比我們聰明太多,我們希望用機器人做一切我們不擅長的工作。或許這是一件好事。從表面上看,機器人護工或許是一種無情的選項,但比起根本不照顧,或者讓孩子承受嚴峻財務壓力,反而是一種關愛。將這個立論進一步衍生:機器人以及機器人帶來的經濟利益或許會奪走我們的工作,但同時也能為我們人類帶來很多餘暇,讓我們可以做我們最想做的事。

依我看來,問題關鍵在於如何讓人能夠了解機器人,讓人能夠制止機器人,以免它們太超過。谷歌正考慮在它的人工智慧系統建立關閉開關(kill-switches)。其他研究人員正研發工具,以監控利用深度學習(Deep Learning)系統建立、原本無法監控的機器算程。也因此,我們必須取得肯定答案的問題是,我們能不能制止機器人。包括人工智慧與機器人,我們在設計所有一切系統時,必須牢記這項關鍵,即使這麼做可能有損這類系統與機器人的能力與「突現性」(emergent properties,按:即一加一可能大於二的特性)也在所不惜。

相關書摘 ►《科技選擇》:把車鑰匙交給人工智慧的道德論點與大規模顛覆

書籍介紹

本文摘錄自《科技選擇:如何善用新科技提升人類,而不是淘汰人類?》,經濟新潮社
*透過以上連結購書,《關鍵評論網》由此所得將全數捐贈兒福聯盟

作者:費維克・華德瓦(Vivek Wadhwa)、亞歷克・沙基佛(Alex Salkever)
譯者:譚天

試著想像一下,擁有新科技的生活是這樣的:

透過物聯網,你家的磅秤向你家的冰箱「告狀」,叫它「鎖起來」,不要再讓你拿冰箱中起司蛋糕,因為你體重已經嚴重超標。

藉由生物科技,你可以「篩選」更聰明的寶寶。

孩子入學後,老師竟然「不是人」,而是具有人工智慧的化身,依據學生的程度和喜好,每個人都有不同的客製化課表。

物聯網、人工智慧、機器人、生物科技和無人載具科技(自動駕駛的汽車、飛機或船舶等),這些新科技推陳出新的速度愈來愈快,能讓人類的生活更健康、更方便。不過,我們也因此面臨陷入失業、隱私不保、富人掌控新科技與違反道德等問題。

面對這些新科技,人類必須做出選擇,而這些選擇,對於未來的科技與商業發展,還有我們的生活又會造成什麼影響?

本書作者費維克・華德瓦(Vivek Wadhwa)與亞歷克斯・沙基佛(Alex Salkever),一位擁有專業的學術背景,另一位是熟知行銷的科技顧問。他們探討哪些新科技即將顛覆產業,同時思考新科技對於未來的影響,也從政策、法律與道德的角度,分析人類應該如何善用這些新科技。作者主張,面對新科技,我們要自問三個問題,才能做出更好的選擇:

  1. 公平:科技是否公平造福每個人?
  2. 風險:科技的好處與風險各是什麼?
  3. 自主:科技讓人更自主還是更依賴?

科技進度快得讓人來不及調適,能帶來前所未有的豐厚報酬,但也充滿不測風險。包括科技專家在內,任何人只要能使用新工具,用它們思考、管理科技變化都能獲益。

這本書,為的就是提供這種工具,因為有選擇才有力量,相信參與的人愈多,做出的判斷愈好。

我們處在人類史上最偉大的一刻,即將克服人類最大的幾項挑戰,進入我們科幻電影或電視劇中,看起來充滿奇想的時代。現在,我們正身在其中,參與並且見證這一刻的到來。

即使未來我們必須將駕駛座讓位給新科技,再也不必手握方向盤、腳踩油門或剎車,但這輛駛往未來的自動駕駛汽車,應該由人類決定方向。人類才是決定未來、創造未來的主人。

面對新科技,究竟我們應該如何做出選擇,答案就在本書中。

getImage
Photo Credit: 經濟新潮社

責任編輯:翁世航
核稿編輯:潘柏翰