《AI創世紀》:人工智慧將使人類一無是處,甚至毀滅人類?

《AI創世紀》:人工智慧將使人類一無是處,甚至毀滅人類?
Image Credit: Depositphotos
我們想讓你知道的是

假設我們賦予AGI機器增進人類幸福這種目標的話,會產生什麼結果?機器一定會不計後果、用最快速的方式達成目標,比方說超級演算法(superalgorithm)可能決定製造探針,趁人類熟睡時用探針刺激大腦分泌腦內啡,或是強迫餵食人類鴉片類藥物,引發飄飄欲仙的生物化學作用。

唸給你聽
powered by Cyberon

文:埃米爾.侯賽因

AI將使人類一無是處

對《星際爭霸戰》(Star Trek)影迷來說,他們早就看到了地球未來生活可能的樣貌。在《星際爭霸戰》所描繪的社會,金錢並不是中心角色,人民工作的動機也不是為了生存需求。影集中還演到了另一個種族佛瑞吉人(Ferengi),他們慣用一種叫做「拉緹錠」(Latinum)的貨幣,讓幾位主角覺得是既古怪又退步的做法。《星際爭霸戰》的世界裡不會有人問「你從事什麼工作?」,因為大家的「工作」就是……生活。

我認為這絕對不是科幻電影的憑空想像,它所描繪的景象說服力十足,是人類必將通往的未來。也許在一些細節上,大家會意見紛歧,比方說這樣的未來是10年後、50年後或是100年後,不過所有資料都指向同一個方向:人類現今從事的大部分工作,將來都會交給機器來做。

艾爾・高爾(Al Gore)在其著作《驅動大未來:牽動全球變遷的六個革命性巨變》(The Six Drivers of Global Change)中指出,美國與全世界面臨的二大挑戰就是「機器取代人力」(robo-sourcing)和「外包」。根據美國勞工部(US Labor Department)的資料顯示,未來成長最快速的職業為「照護」類工作,也就是專門照顧年長者的私人看護和護理師。這類工作機會將增加到180萬個左右。此外,目前有300萬個左右的工作將來會被無人車取代,包括計程車司機、卡車司機、鐵路公司員工等等。2017年3月,PricewaterhouseCoopers(PwC)顧問公司發表一份研究報告,估計美國就業市場在這波自動化競賽中將急遽縮減。到了2030年,預計美國38%的現有工作將消失,這個比例高於德國的35%、英國的30%和日本的21%,原因在於美國的金融服務及批發零售業的重複性任務和自動化流程較多。

不管確切數據為何,顯然勢必會出現大量「失業」人潮,社會契約(social contract)(註1)也必須大幅調整。差不多50年前,未來主義者巴克敏斯特・富勒(Buckminster Fuller)就主張,科技已經進步到足以滿足每個人的基本需求。當時就和現在一樣,政治決心成了阻礙。想要解決機器取代人類所造成的失業問題,就必須從結構上做改變,而在此之前,政府必須先化解人民對生存議題的恐懼心理:要怎麼賺錢求溫飽?要是工作沒了,孩子怎麼辦?銀行會把我的房子收走嗎?這種擔心柴米油鹽醬醋茶的心情,搖撼著那些構成我們文化框架的神話。「美國夢」精神是不是已經蕩然無存?衰敗的我們還算是美國人嗎?如果我們這麼輕易就被機器取代,那我們又有何用?

我認為,種種對生存問題的臆測估算,正好就是把我們生活方式所立基的那一大堆落伍假定打掉重練的機會。為什麼我們會認為非得「工作」謀生不可?150年前,美國有將近70%的人口以製作食品為業,如今這個比例已縮減至不到2%。工業化創造了足夠的新職務,讓勞工得以走出去,在工廠覓得待遇優渥的工作。那是一場巨大的變革,民眾紛紛走向外界,做其他種類的事情。在現代化過程中以及今日的後現代化時代,人的工作已經不再侷限於生產攸關生存的商品及服務了。將來,人類的創造力所製作的產品屬於心智層面,即「創造想法」。我們會不會創造出比機器智慧素質更高的概念?人類的每一個卓越之處,機器智慧也都會嘗試駕馭,包括思考在內。

那麼人類會被置於何地?《瓦力》(Wall-E)那部電影是我們的未來嗎?人類全都會坐在活動椅上喝著超大杯汽水(註2)?人生一旦沒了有意義的工作,我們就會迷失自己。害怕AI把人類變得毫無用處正是AI的兩大威脅之一,另一個則是AI的崛起勢必將迫使我們重新檢驗宗教與哲學這些賦予人性最深層目的之基石。

AI將毀滅人類

哲學家尼克・伯斯特隆姆著有《超智慧》一書,同時也是很有名的存在風險(existential risk)學者,他透過一系列反烏托邦思想實驗(dystopian thought experiment)警告大眾要提防AI的威脅。

伯斯特隆姆設想了一個可怕的情境,就是有個AGI以將迴紋針生產擴大到極致為目標。他認為這種矢志造出最多迴紋針的機器,會不斷地提升自己的智慧,最後將發展成他所謂的「超智慧」,努力發明效果愈來愈強的技術以累積更多的迴紋針。這項思想實驗假設AI若有了更精密的智慧,說不定有朝一日會耗盡全太陽系來製造迴紋針。

我十分尊敬伯斯特隆姆和他的付出,不過對於他所舉的例子,我有些疑慮。一如我在前文提過的,AGI的特徵就是有能力設定愈來愈複雜的目標。累積迴紋針這種目標實在無聊到很難讓機器本身變得更聰明或是更有創造力。

然而,伯斯特隆姆的研究激發大家深思的,其實是「效用函數」(utility function)概念,也就是一種根據對個人所產生的效用來評比選項的數學函數。人類的抱負多半是由各式各樣的目標所構成。

比方說,如果想獲得快樂,就必須隨著生活中的各種系統來調整目標;也許我們應該努力運動,擔任社區志工,多花一點時間和家人相處或是睡眠要更充足等等。從狹義的角度來看,效用函數則是指用最便捷的方法取得最大值的特定結果,這就是伯斯特隆姆所說的存在風險。舉例而言,假設我們賦予AGI機器增進人類幸福這種目標的話,會產生什麼結果?機器一定會不計後果、用最快速的方式達成目標,比方說超級演算法(superalgorithm)可能決定製造探針,趁人類熟睡時用探針刺激大腦分泌腦內啡(endorphin),或是強迫餵食人類鴉片類藥物,引發飄飄欲仙的生物化學作用。

現今的機器只能在有限的領域執行效用函數,例如下西洋棋。然而,在未來的AGI世界,機器的效用函數想必一定十分複雜,甚至更重要的是,機器極有可能可以自行評估效用函數。我們控制得了這些機器的目標嗎?應該沒辦法。馬斯克這類對開發AI嚴詞批評的人士進一步主張,光因為這一點,就應該減緩科學的進展腳步。他們認為,當前的AI缺乏設定遠大目標的能力,這是唯一能使人類免於大滅絕的原因。

我們不是算命仙,沒有人能卜出人工智慧機器未來的目標,不過對於當今世界的實際狀況我們很瞭解。在我看來,「人類」窮凶極惡的舉動比我們所設想的未來AGI機器要危險多了。從握有精密科技的伊斯蘭國領導人巴格達迪(Abu Bakr al-Baghdad)或是北韓最高領導人金正恩(Kim Jong-un)身上,早就可以看到存在風險。掌握精密ANI系統的精神領袖,象徵的是比最大量迴紋針製造機還要龐大得多的風險。想想眼前最實際的威脅,假如我們不再朝更高智慧邁進的話,對人類有何益處?更值得警覺的是,如果我們停止研究的步伐,其他一些不懷好意的政治勢力卻依然進步神速,那我們又會有何下場?

限制並禁用特定類型的AI研究,尤其是可作為軍事用途的系統,往往受到善良聰明又理智的人們所支持。然而,禁令和規範在我看來不太可能發揮我們原本所指望的效果。事實上,就像過往很多的制裁和禁令,這些方法十之八九只會導致隱密的地下計畫因應而生,而這些計畫的幕後黑手正是我們試圖要阻擋的團體和組織。

這令人忍不住想到核子武器擴散的例子。核武已經遍及美國以外的地方,而美國是第一個開發這種武器的國家。現在俄羅斯、英國、法國、中國、印度、巴基斯坦、以色列、南非、北韓都已經擁有此能力,據稱連伊朗也有核武。這些國家大多都受到嚴厲制裁,也被禁止輸出兩用系統(dual-use system)。不過,這是我們咎由自取。事實上,許多分析師就指出,有鑑於中東複雜的同盟與敵對關係,伊朗發展核子武器所意味的是沙烏地阿拉伯、阿拉伯聯合大公國與土耳其很快就會跟上腳步,著手開發這種武器系統──假如他們還沒有開始進行的話。

註釋:

  1. 社會契約乃一種政治哲學思想,指個人與政府之間對權利義務有共識。
  2. 《瓦力》的劇情背景設定在公元2805年,當時的人類後裔定居外太空的「公理號」(Axiom)太空船,每個人都過度肥胖且坐在一排設有運輸帶的座椅上,整天使用面前的螢幕聊天、工作、戀愛、學習,吃喝玩樂全在電腦程式控制之中。

相關書摘 ►《AI創世紀》:將人工智慧應用於戰爭之中的「極速戰」

書籍介紹

《AI創世紀:即將來臨的超級人工智慧時代》,寶鼎出版
.透過以上連結購書,《關鍵評論網》由此所得將全數捐贈兒福聯盟

作者:埃米爾.侯賽因
譯者:溫力秦

AI(或稱人工「機器」智慧)在我們日常生活中扮演的角色益發吃重,從自動駕駛、搜尋引擎、無人機到最新的語音辨識軟體等種種技術發展,便可窺知一二。

然而,近來AI領域的突飛猛進卻引發了二極化的反應。有些專家主張,人類大部分的難題都能靠機器解決;有些人卻認為AI的進化將導致我們走上反烏托邦的暗黑之途,消弭人類之地位於無形。

AI究竟會對世界產生何種影響?答案儘管見仁見智,但想到人類有可能創造出具有智慧的東西,確實會讓人不寒而慄。不過,換個角度思考,如果這就是人類最終極的目的呢?如果AI就是人類最偉大的發明呢?

傑出的發明電腦科學家埃米爾・侯賽因認為,人類已經寫下AI的初篇章,著手勾勒最偉大的造物神話。就近期而言,許多重要領域會在AI技術的輔助之下加速發展,例如智慧居家、網路資安、金融市場、能源開採、軍事國防、健康醫療產業等等。放眼未來,人工智慧的爆炸性成長也將全面改造人類的存在意義。

getImage
Photo Credit:寶鼎

責任編輯:朱家儀
核稿編輯:翁世航

或許你會想看
更多『評論』文章 更多『生活』文章 更多『精選書摘』文章
Loader