假設機器勞工在所有工作中,都比人類勞工便宜又更有能力,那時會發生什麼事?

假設機器勞工在所有工作中,都比人類勞工便宜又更有能力,那時會發生什麼事?
Photo Credit: Pixabay CC0 Public Domain

我們想讓你知道的是

當對人類勞工的需求降到足夠的低點,薪資就會滑落到人類生存水平以下。人類勞工的潛在下滑趨勢因此十分極端:此時不再只是薪資大砍、降職或是再訓練的需求,而是挨餓與死亡。

文:尼克.伯斯特隆姆 (Nick Bostrom)

馬與人

一般機器智慧可做為人類智慧的替代品。數位心智不只能做到現在人類能做的智慧工作,甚至在裝上執行設備或機器身體之後,還可以取代人類的肉體勞動。假設機器勞工(可大量生產的機器勞工)在所有工作中,都比人類勞工便宜又更有能力,那時會發生什麼事?

工資和失業

有了可便宜複製的勞工,市場工資便會大幅滑落。人類還能保持競爭力之處,大概只剩下消費者對人類勞務還有基本偏好的場合。今天,手製品或原住民手工藝品有時還能要求價格溢價(price premium)。未來的消費者可能同樣會偏好手工製品或是人類運動員、藝術家、情人和領導者,而非功能上毫無差異甚至更優越的人工對手。不過,我們還不知道這種偏好會有多普及。如果機器生產的東西夠優越,也許可以得到更好的價碼。

一個可能和消費者選擇相關的參考因素,是提供服務或產品的工作者之私生活。舉例來說,一場音樂會的聽眾,應該會想知道演奏者是否是有意識地親臨其音樂和現場。若沒了現象經驗,即使有辦法創造表演者的3D成像,與群眾自然地互動,表演者也只能被看做是高功能點唱機。接著,機器可能會被設計成能再現人類進行同樣任務時呈現的精神狀態。但是,即便已經完美複製了主觀經驗, 有些人還是偏好出自活人手工的產品。這種偏好可能有意識形態或宗教上的根源,就像許多穆斯林和猶太人,會避免以他們不允許或認為不潔淨的方式處理食物;未來也可能有些團體,會避開那些製程中涉及未核可使用機器智慧的產品。

哪些事物還會仰賴這部分呢?到了便宜機器勞工可替代人類勞工時,人類的差事可能都會消失。當然,害怕自動化與失業並非新鮮事。至少從工業革命開始,對於技術性失業的顧慮就週期地出現;事實上,有不少職業步上英國紡織工和織布工匠在19世紀早期的後塵,在彷彿民間傳說的「盧德上將」(General Ludd)旗幟下團結起來,對抗織布機的引進。

不論如何,雖然機器裝置和技術取代了許多特定類型的人類勞工,這種技術整體來說仍是一種勞工的補強方式。全世界人類的平均薪資呈現長期的上升趨勢,大部分就是因為這種補強。然而, 機器一開始補強了勞工,到了後來的階段就會成為勞工的替代者。馬的功能一開始也是藉由馬車和犁而補強,大幅增加其生產力。然而後來馬被汽車和拖拉機所取代。這些後來的革新降低了獸類勞力的需求,並導致馬族群量的崩盤。人類這物種也會落到同樣的命運嗎?

如果問說,那麼馬為什麼依舊存在?就可以把馬的故事平行地向前延伸。一個理由是,馬仍在少數工作中具有功能優勢,比如說警察工作。但主要的理由是,人類恰巧對馬可以提供的服務有著特殊偏好,包括休閒騎乘和馬術競賽。這些偏好可比擬我們假想的未來人類可能偏好,也就是對於某些手作物品或服務的偏好。不過這個比方並不準確,因為馬至今仍然沒有全面的功能替代品。如果有便宜的機器設施能吃乾草就跑,還具備和生物馬完全一樣的體型、觸感、氣味和行為,甚至有同樣的意識經驗,那麼對生物馬的需求可能會繼續下降。

當對人類勞工的需求降到足夠的低點,薪資就會滑落到人類生存水平以下。人類勞工的潛在下滑趨勢因此十分極端:此時不再只是薪資大砍、降職或是再訓練的需求,而是挨餓與死亡。當馬不再用來當做移動力的主要來源時,許多馬被賣給肉商做成狗食、骨粉、皮革和膠水。牠們沒有能謀生的其他工作可選。1915年的美國,大約有兩千六百萬匹馬;到了1950年代,只剩下兩百萬匹。

資本和福利

人和馬之間的一個很大的不同,在於人擁有資本。一個已固定的經驗事實是, 資本的全要素(total factor,是指不包括資本和勞動力輸入,其他所有影響產出的要素)比例長久以來都穩定維持在大約30%左右(雖然有顯著的短期波動),這代表全球總收入的30%被資本擁有者收做租金,剩下的70%被勞工收做薪資。如果我們把人工智慧分類為資本,那麼隨著可全面替代人類工作的機器智慧發明,薪資就將滑落至這種機器替代者的邊際成本,而變得(在機器非常有效率的假定下)非常低,遠低於人類生存水準的收入。

勞工分到的收入比例接著會縮小到零,這就代表資本的要素比,將達到接近全球總生產的100%。既然全球國內生產總值會跟著智慧爆發而飆升(因為大量的勞工替代用機器,也因為超智慧達到的技術進步,以及其後透過太空殖民所獲得的大量新土地),接著從資本獲得的總收入將極大幅度地增加。如果人類還是這資本的主人,全人類獲得的總收入將以天文數字成長,儘管在這情況下人類不再有任何薪資收入。

因此,整體來說,人類將變得比你所做的最貪婪想像還要富有。這樣的收入要如何分配呢?初步估計,資本收入會和資本所有量成比例。有鑑於天文放大效應,就算是一小部分的後轉型時期財產,都可以膨脹為巨大的後轉型財富。然而在當今世界中,許多人並沒有任何財產。這不只包括窮人,也包括一些儘管收入不錯,或有高人類資本但資產淨值為負的人。舉例來說,在富有的丹麥與瑞典, 據聞有30%的人口財產為負——通常是手上缺少有形資產,且有信用卡債或學貸的年輕中產階級。就算儲蓄可賺得相當高的利益,但要開始利滾利,還是得要有一些起步播種的資本。

儘管如此,就算剛開始轉型時沒有私人財產的個人,後來還是可能發大財。舉例來說,參與退休金計畫的人,不管參與的是公共或私人計畫,只要計畫至少能獲得部分資金投注,都會過得不錯。透過資產淨值暴發戶所舉辦的慈善活動, 窮人也會變得富有:因為天文數字般的財源降臨,就算捐出的救濟只佔財富的極小部分,其絕對金額還是相當嚇人。

就算在一個機器的功能在全領域優於人類(而且甚至比生存水平的人類勞動還便宜)的後轉型階段,財富還是可以透過工作產生。前面提到,如果出於美學、意識形態、道德、宗教或其他非實用理由,還保留偏好人類的空缺,那就還是會產生這條件。在一個人類資本持有者的財富大幅增加的情境中,對這種勞工的需求可能會相對增加。新崛起的兆萬富翁甚至京萬富翁,能付出大量的費用,來讓一些物品和服務仍由「公平貿易」的生物勞力來提供。

馬的歷史再次提供了平行參考。美國的馬匹數在1950年代早期掉到兩百萬匹之後,經歷了一次穩健的復甦:一項近期普查發現,目前略低於一千萬匹。這個攀升不是因為馬在農業或運輸上有了新的功能需求,而是因為經濟成長,讓更多美國人能沉溺在馬術休閒的幻想中。

除了資本擁有之外,另一個人和馬的重要差別就是人類能政治動員。人類運行的政府可以用國家徵稅權力,來重新分配私人獲利;或是藉著賣出增值的國有財產(例如公有土地)來增加財政收入,並用這收益來使其國民退休。同樣地,因為在轉型中以及完成後不久就帶來的爆發經濟成長,大量的財富將四處可見,要餵飽所有的失業人士就相對簡單。就算是單一國家,也有辦法提供全世界所有人的生活薪資,且其支出比例不會比許多國家現在花在外國援助上的比例還高。

歷史觀點中的馬爾薩斯式原則

截至目前為止,我們假定了一個恆常的人口數。出於人類繁殖速度的生理限制, 這數字短時間來說可能是個合理假設。然而,這假設不一定合理。

過去九千年中,人口增加了一千倍。要不是史前到歷史時代的大半時間, 人口都停步於全球經濟的極限,否則增加速度還會更快。一個近似馬爾薩斯式的狀態佔了上風,在這個狀態中,多數人僅能得到生存水準的收入,勉強存活下來且平均養大兩個孩子。過去常有暫時和區域性的停滯,包括瘟疫、氣候波動或戰爭,間歇性地減除人口並釋放出土地,讓生存者能提升其營養攝取,而能養育更多下一代,直到階位又被補滿,馬爾薩斯式的狀況又會重新開始。

同時,多虧了社會不平等,一小群菁英階層可持續享受高於生存水平的收入(其花費甚至稍微降低能維持下去的總人口數量)。這是種悲傷且刺耳的設想:在這種馬爾薩斯式的情境中,我們在這行星上存活的多數時間中遇見的常態、普遍視為人類福祉的最大對手——乾旱、瘟疫、屠殺和不平等——才是最偉大的人道主義者;光靠它們,就能讓生活的平均水準,偶爾稍微出現在勉強生存邊緣的生活水準之上。

在局部的小波動之上,歷史的宏觀模式呈現出一個起初緩慢,但終將加速的經濟成長,這是靠著技術革新的累積來推動的。成長的全球經濟帶來了全球人口的相對增加。(更精準地說,大量人口本身就強力加速了成長速率,主要是藉著人類的群體智慧增加。)直到工業革命開始,經濟成長才快速到使人口不再均速成長。平均收入開始增加,先是在西歐較早工業化的國家,接著是世界各地。就算是在今日最貧困的國家,平均收入還是大幅超越生存水準。這反應在這些國家的人口持續增長的事實上。

最貧困的國家如今有著最快的人口成長率,因為它們尚未完成「人口統計轉型」,達到符合較開發社會的低生育體制。人口統計學家預計全球人口將在本世紀中達到約九十億,在那之後隨著較貧窮國家加入已開發世界的低生育率體制, 人口將進入停滯期或者下滑。許多富有國家已有低於替代水準的生育率,有些國家甚至遠低於水準。

然而如果我們長期觀之,並假設一種技術不變、景氣持續的狀態,我們就有理由預期會回到歷史上與生態上的正常狀態,也就是全球人口對抗我們利基的支援限制。若按照前面以全球觀點觀察出的財富與生育率負關係,目前的發展似乎有違直覺,但我們必須提醒自己,我們所謂的這個當前,只是整個歷史的一小切片,而且還是個大偏差。人類行為尚未適應當前的狀態,我們不只無法利用明顯的方法來增加我們的整體適應度(例如成為精卵捐贈者),更是主動使用了生育控制,來破壞我們的生育力。

在演化適應性的環境中,健康的性衝動足以驅使單一個體,按照將其繁殖潛能最大化的方式來行動;亦即在我們現在的環境中,對於擁有最多後代擁有更直接的欲望,其實有著極大的選擇優勢。這種欲望連同其他增進我們繁殖的傾向,目前都正被選擇出來。不過,文化適應可能會在生物演化前偷偷搶得先機。有些社群,例如胡特爾派(Hutterite)或者奎沃福福音派運動(Quiverfull evangelical movement)的支持者,因為推崇大家庭的鼓勵生育文化,正在快速擴張。

人口成長與投資

想像一下,若當今的社經狀態就這樣神奇地凍結在這個形狀裡,未來就將被支持高生育力的文化和道德團體所主宰。如果在現有環境中,絕大多數人優先考量的是適應度最大化,那麼每一代的人口都可以輕易倍增。人口控制政策(這將穩定且愈加嚴密而有效率,好抵銷企圖全力規避它的演化)的缺席,將使得全球人口持續指數成長,直到某些限制,像是土地缺少或是產生重大革新的機會耗盡,讓經濟不能再維持增長速度;到了某一時刻,平均收入就會開始降低,直到壓倒性的貧窮讓絕大多數人無法養大兩個以上的小孩的水準。

因此,馬爾薩斯式的原則又會再次靈驗,就像一個可怕的奴隸主,終結了我們通往富饒夢幻樂園的脫軌行為,牽著鎖鍊把我們拖回苦役行列,重新開始生存的艱困掙扎。

這個長期遠景可被智慧爆發壓縮為一個更迫切的前景。因為軟體可以複製, 人工智慧的複製人口可以快速倍增(只要幾分鐘而不是數十年或數百年),並且很快就會耗盡所有硬體。

面對普世馬爾薩斯式情境的出現,私人財產可能會提供部分保護。想想一個簡單的模型,在那之中各個宗派(或者緊密的社群,或者國家)的財產量各有不同,並且針對繁衍後代和投資各採納了不同策略。有些宗派不相信未來,花光了本錢,然後他們一貧如洗的成員便加入全球的無產階級(或者如果他們無法透過勞動養活自己,就會死去)。其他宗派則將資源做投資,但採取了無限繁殖的策略;這樣的宗派生下更多人口,直到他們達到一個內部馬爾薩斯式的狀態,在那之中他們的成員太貧窮,以至於死亡率幾乎等於出生率,此時宗派的人口成長減緩,以等同於資源成長。然而,還有一些宗派把生育率限制在資本成長率之下, 這樣的宗派將緩慢增加人數,同時平均起來每個成員也更加富有。

如果財富從富有的宗派,重新分配給快速繁殖或快速兌現的宗派(其兒童、複製品或衍生物儘管本身沒錯,卻在資本不足以生存的情況下來到這世上),那麼就會更接近一個普世的馬爾薩斯式情境。在部分案例中,所有宗派成員都會得到生存水準的收入,且每個人的財產都會相等。

如果財產沒有重新分配,思慮周到的宗派就可能會累積資本,其財產絕對值便有可能成長。然而,我們並不清楚人類能否使用資本,達到像機器智慧使用資本那樣的高回報率,因為勞工與資本之間可能會有協同作用,讓一個同時支援雙方的代理人(例如一個既有技術又有錢的企業主或投資者)的資本私人回報率, 超越僅有財務資源而沒有認知資源的代理人所獲得的市場利率。

比機器超智慧更缺乏技能的人類,資本成長可能因此更慢——除非控制難題完全解決,使人類的報酬率等同於機器的報酬率;因為人類委託人可以叫一個機器代理人來經營他的儲蓄,且在不花成本又毫無利益衝突的情況下做到;但若達不到這點,在這整個劇本中,機器持有的經濟比例可以漸漸達到100%。

這種經濟分配漸漸達到100%為機器所有的劇本,並不一定是人類分配比例減少的劇本。如果經濟以足夠的速度成長,那麼比例相對縮減,其絕對值還是增加的。對人類來說,這聽起來像是個不錯的消息:在一個多極而財產權受到保護的情境中,就算我們完全無法解決控制難題,人類擁有的整體財富量還是能增加。當然,這個效應不會處理人口成長把平均收入拉到生存水準的問題,也不會處理人類因為不重視未來而自我毀滅的問題。

長期來看,經濟將被具有最高儲蓄率的宗派逐步把持——那是擁有半個城市卻住在橋底下的守財奴。只有在時機成熟,當投資不再有任何機會時,極度有錢的守財奴才會開始縮小儲蓄額。然而,如果財產權的保護有一絲不完美,舉例來說,如果更有效率的淨利機器(不擇手段地)將人類財產轉移到它們手上,那麼人類資本家可能得更快將資本花光,以免被這種轉移所耗盡(或者在確保財富免於被轉移所帶來的持續成本)。如果這些發展發生在數位時間,而非生物時間尺度,那麼過度緩慢的人類,可能在一夕之間財產就被沒收光了。

當人工智慧還很愚笨時,聰明會比較安全;然而當它變得很聰明,愈聰明就愈危險

書籍介紹

超智慧:出現途徑、可能危機,與我們的因應對策》,八旗文化出版

*透過以上連結購書,《關鍵評論網》由此所得將全數捐贈兒福聯盟

作者:尼克.伯斯特隆姆 (Nick Bostrom)

本書作者尼克.伯斯特隆姆從當前人工智慧研究取徑和現況中,找出可能達成超智慧的途徑,包括人工智慧、全腦仿真、生物認知、腦機介面、網路和組織的強化,並帶領我們思考,這樣一個超智慧一旦出現,可能會如何行動,以及它的行動是否會對我們的生存造成威脅,而我們是否有方法在它變成超智慧之前,該如何做好能力控制和動機選擇。

身為牛津大學哲學系教授,作者特別強調強調動機選擇的關鍵性,但要植入哪一種價值的決定,有非常深遠的影響;而人類的價值又如何能轉譯成人工智慧所能理解的形式語言。這些都是嚴峻的挑戰。作者從頭到尾都謹慎地為人類尋找出路,儘管對非專業讀者來說,偶爾出現的數學和專有名詞可能會讓人望而生畏,但其實不用擔心,因為總是可以周圍的解釋拼湊出主要論點。

(八旗)0UAL0013超智慧-書腰-立體72
Photo Credit: 八旗文化出版

責任編輯:翁世航
核稿編輯:楊之瑜