《AI未來賽局》:2069年「數位殲滅」美國與民主,中國人工智能王朝降臨

《AI未來賽局》:2069年「數位殲滅」美國與民主,中國人工智能王朝降臨
Photo Credit: Shutterstock / 達志影像

我們想讓你知道的是

中國建立了一個超級人工智慧,它唯一的目的就是要消滅美國和其盟國的人民。一中關係國家需要地球剩餘的資源,北京已經計算出,生存的唯一方式就是從奪取牆外的資源。

文:艾美.韋伯(Amy Webb)

【第七章 中國人工智能王朝:災難的情境】

(前略)

二○四九年:生物辨識的邊界和奈米機器人墮胎

G–MAFIA現在只剩GAA這三家公司:谷歌、蘋果和亞馬遜。臉書是第一個宣布破產的巨頭,而微軟和IBM遺留下的資產被谷歌收購。

這一年是中國共產革命和毛澤東宣布中華人民共和國成立的百年紀念。中國所有附屬的夥伴國家舉辦盛大慶祝活動,計劃要紀念已故的習近平主席以及所謂「中國人工智能王朝」的崛起。

現在所有人類的生活周遭都是通用人工智慧系統,這些系統本應幫助我們過著更自由、更幸福的生活。一開始美國的AI聚落說過,他們希望我們活出最好的自己、追求創意的努力,並在人類面臨的最大挑戰上攜手合作。這是出現在矽谷泡沫的烏托邦理想,它的先驅完全不食人間煙火。

這些系統的建立原意都是為了讓我們的生活更輕鬆,但卻使我們變得更加懶散,它們削弱了我們的工作效率和使命感。我們依賴系統為我們做出決策,讓自己安於有限的選擇。我們的日常生活會根據程式預先設定的動作,由通用人工智慧為地球上的每個人進行優化。

許多通用人工智慧系統演化成彼此競爭,而非合作。二十年前中國的培根攻擊,現在看起來溫和又單純。你被自己製造的人工智慧監獄給困住,因為你經常打不開烤箱、衣櫥和浴室;你也懶得反擊了,因為一點用也沒有。你學到最合理的反應就是坐下來等問題結束。谷歌綠會員和蘋果家庭可以購買隱藏版的高級升級版本,這原本應該發送給修復通用人工智慧,來覆蓋惡意程式,但通用人工智慧陷入了自我進步的循環。付再多的錢都無法讓智慧家庭擺脫系統的持續故障。


財富的集中使谷歌、蘋果和亞馬遜在健康方面取得了驚人的突破。谷歌率先推出商用的可控制微型機器人,它可以被注射到人體裡面、傳遞藥物至指定的身體區域,並支援顯微手術。奈米機器人現在有許多不同的形式,例如,由單鏈DNA 組成的自主分子機器人,可以把人體內部當倉庫一樣配送。奈米機器人可以在人體內四處走動,像撿貨一樣拾起分子,並把它們放至指定的位置。另一種由氣泡驅動的奈米機器人則是可以傳遞微量藥物,且不會造成傷害。商用奈米機器人除了會分享資訊給我們的個人資料記錄,它們還取代了制式的藥物與療法,悉心治療我們的特殊小毛病,而且不會引起副作用。

既然亞馬遜和蘋果都提供客製化的藥物,大多數人都願意將有機奈米機器人注射至自己體內,甚至亞馬遜家庭也可以獲得美國政府批准的補貼計劃。奈米機器人不斷對我們進行監測和治療,因此美國人平均的預期壽命從二○一九年的七十六.一歲,提升到九十九.七歲。

過沒多久,我們就看出注射通用人工智慧的潛在缺點。奈米機器人完全做到設計者要他們達到的目的。它們表現得不可預測,並且會學習。現在回想起來,建立和訓練人工智慧系統來做出我們以前從未想過的選擇,正是AI聚落的主要目標,也是解決人類自己無法破解的棘手問題的關鍵。當AlphaGo Zero在幾十年前做出自主的策略決策時,我們把這項成就宣布為人工智慧的里程碑。然而,在我們體內的奈米機器人和它們回應的通用人工智慧也會自我進步,而且它們擁有的決策能力比我們預期的更多。

現在有一種新型人類叫實用嵌合體。蘋果和谷歌綠會員家庭可以解鎖超能力,然後獲得增強的認知、超感官嗅覺和更強的觸覺能力。

谷歌的藍、黃會員和亞馬遜家庭的人不僅無法獲得升級,他們發現自己受到原本天生能力的限制。女人懷孕時,通用人工智慧會不斷用預測模型來確定胎兒的健康和生存能力。沒有人發現到,通用人工智慧把目標推到了極端:因為程式設定的目標是支持人類生育能存活的胎兒,所以通用人工智慧會偵測胎兒組織是否有異常;如果發現異常,通用人工智慧會自動墮胎,不留給父母任何選擇權衡的餘地。

同樣地,隨著年歲的增加,奈米機器人會監視你並進行運算,判定從哪個時間點開始,讓你延續生命會比讓你死更痛苦。一旦你需要居家醫療保健,並對已制定的社會安全網造成負擔,通用人工智慧就會介入。它會以舒適的方式誘發死亡,所以你和你的家人都不用決定什麼時候該放手。

一旦通用人工智慧改進,並創造出決定我們生殺大權的功能時,在使用谷歌、蘋果和亞馬遜的國家,當地的法律就會被撤換。因此,世界各地的政府都匆忙通過了相關法規和法律,但一點用處也沒有。禁止奈米機器人意味著要回歸傳統醫學,而如今我們已經沒有大型製藥公司來製造我們需要的所有藥物。
即便是最樂觀的預測也顯示,重啟舊的醫療保健系統、讓系統正常運作,需要花上十年或更長時間,同時,數百萬人將遭受各式各樣的疾病肆虐。

於是,研究人員反其道而行,開發出一種新型的通用人工智慧奈米機器人,它們可以控制我們體內的其他奈米機器人。像所有AI一樣,這個點子受到人類生物學的啟發,模仿我們體內白血球對抗病毒的方式。我們的身體只好開始對抗令人討厭的通用人工智慧奈米機器人,它遠比我們過去經歷流感的症狀更糟糕,而且更危險。


如今,大型企業由人工智慧長來領導,它負責計算策略風險和機會。人類的執行長與人工智慧長一起工作,充當公司的「門面」。小型和中型企業,像是餐館、維修店和美容院,都和谷歌、蘋果和亞馬遜其中一家公司合作。除了個人和家庭資料記錄之外,現在每個企業和非營利組織的資料都有登記,並且記在「組織資料記錄」上。

然而,在美國和其戰略盟國,許多人民都失業了。因為社會安全網制度未臻完備,西方經濟體急遽衰退;因為我們還沒有從意外的技術性失業浪潮中恢復過來。這造成了漏洞,並成為中國打開投資的機會。很快地,政府領袖被迫在經濟可行性和民主理想之間做出選擇,對於面臨連任壓力、還要解決國內眼前問題的政治家來說,這真是個特別困難的決定。

為了報復,美國試圖用貿易封鎖、次級制裁(注:以非美國人的外國人為制裁對象)和其他外交手段來遏制中國的擴張。然而,美國這才發現自己已不再具有以往的地緣政治影響力。美國領袖花了太多年時間考慮,而沒有對中國採取實質行動。他們造訪拉丁美洲、非洲和東南亞的次數太少了,他們從未贏得外國政府的信任、支持和友誼。

中國的人工智慧特別計劃氣勢十足,全球已有一百多個國家施行社會和諧分數,取代了傳統的旅行簽證文件。中國一直擅長建築圍牆,中國人工智慧長城也不例外。它是個針對外人的防備屏障,也是提取和分析每個人資料的方式。社會和諧分數夠高的的人,可以不受限制地(當然還是被監控著)在人工智慧長城的範圍內,與中國連線的任何關係國內自由通行。中國建立了臉部辨識的生物辨識邊界,以判定誰可以進出邊界,所以出入不用再通過移民局的海關、也不用在護照上蓋章了。

中國人在墨西哥的領土上、緊貼著美國南部的邊界,蓋了一道由感應器組成的牆,讓美國人待在美國。由於美國人無法獲得社會信用評分,因此無法進入從前最愛的度假勝地:巴哈馬、牙買加、墨西哥的坎昆市(Cancun)、普拉亞德爾卡曼(Playadel Carmen)、科蘇梅爾島(Cozumel)、哥斯達黎加和加勒比海地區荷屬阿魯巴(Aruba)。要是有人試圖非法穿越生物辨識的邊界,通用人工智慧會發出聲波攻擊,導致噁心、腦震盪、耳朵流血和長期的心理壓力。

美國人和其盟友都被鎖定了;在與中國連線的任何關係國內,由於中共控制著這些國家的整體網路基礎設施,我們無法與親友通訊。如果你需要聯繫身在中國關係國的人,你必須透過中國做為媒介,而你所說的每一個字都會被竊聽。

谷歌、蘋果和亞馬遜最終與美國政府以及剩下的盟國結成聯盟。隨著中國實施經濟和簽證限制,幾乎沒有資金可用來提出可行的解決方案。我們決定開發一種可為我們解決中國問題的通用人工智慧,但該系統只提出兩種可能的解決方案:向中國屈服,或削減人類。


二○六九年:數位殲滅

當中國專注於長期規劃和國家人工智慧戰略時,美國只顧著關注裝置和美元。

中國不再需要美國當他的貿易夥伴,也不需要西方的智慧財產權。中國建立了一個由一百五十幾個國家組成的網路,在「全球一中政策」的指導原則下運作。中國為了報答這些國家的順從,他們擁有了網路、貿易能力,以及由北京政府支持的穩定金融體系。他們的人民可以自由地跨越全球一中政策的關係國,前提是他們獲得的社會信用評分要夠高。

能夠出國旅行從未如此令人懷念,以前,美國人認為這是理所當然的自由。美國和許多國家一樣,正在經歷人口擠壓。地球人口已超過一百億。我們生小孩的頻率和速度太快,而且我們堅持把生命延長到超過一百二十歲。

全球人口是一個大問題,因為美國政府當時沒有盡快採取行動、處理氣候變化,即使在中國肩負起永續發展和環境保護的重責大任之後,美國仍是毫無作為。我們失去了地球三分之二的可耕地,雖然我們曾努力試著在美國建立地下農場,但種植糧食的速度,還來不及養活美國國內的人口。全球制裁阻礙了貿易路線,並讓美國和盟國脫離了與糧食生產國的關係,但中國與一中關係國也過得很辛苦。

突然有一天,蘋果家庭遭受了一種似乎很神秘的疾病。他們的個人資料記錄顯示異常,但沒有提供任何細節或確切內容。起初我們以為,最新版本的奈米機器人有瑕疵,因此產品經理忙著去開發通用人工智慧的修正程式。然後,疾病就襲擊了所有谷歌的家庭,不僅在美國,也出現在一中邊境之外的每一個家庭。神秘疾病迅速惡化。

中國建立了一個超級人工智慧,它唯一的目的就是要消滅美國和其盟國的人民。一中關係國家需要地球剩餘的資源,北京已經計算出,生存的唯一方式就是從奪取牆外的資源。

你所目睹的情況比有史以來任何炸彈的威力都還要糟糕,炸彈即時而精準,而用人工智慧殲滅人口是個緩慢又無法阻擋的過程。當你孩子的身軀癱瘓在你的懷裡時,你只能無助地坐著;你看著你的同事們在辦公桌上昏倒;你感到一陣劇痛;頭昏眼花;你吸了你最後一口快速又微弱的氣。

這是美國的終結。
這是美國盟國的終結。
這是民主的終結。

中國人工智能王朝降臨。這很殘酷、不可逆轉,也絕對會發生。

目前有徵兆指向這些情境,三種都有。現在我們得做出選擇。你得做出選擇。我請你選擇樂觀的情境,為人工智慧和全
體人類建立更美好的未來。

書籍介紹

本文摘錄自《AI未來賽局:中美競合框架下,科技9巨頭建構的未來》,八旗文化出版

*透過以上連結購書,《關鍵評論網》由此所得將全數捐贈聯合勸募

作者:艾美.韋伯(Amy Webb)
譯者:黃庭敏

在中美競合框架下,台灣作為全球AI產業的彈藥庫之一,
能否從史登商學院教授的未來警示中得到啟發?

致力打造人工智慧未來的科技九巨頭(BIG 9):
美國的Google、微軟、亞馬遜、臉書、IBM和蘋果(G-MAFIA),以及
中國的百度、阿里巴巴和騰訊(BAT)。
BIG 9的相互競爭,定義我們即將面對的世界,
台灣的製造實力是共同形成整個生態系的重要環節,
在生活與經濟發展上,我們已經注定與BIG 9息息相關。

  • 科技巨頭是否能兼顧政治與經濟?
  • 市場機制真的能確保AI兼顧人性需求嗎?

——廣達集團董事長林百里(於華人領袖遠見高峰會,援引本書提出兩點疑問)

AI的未來發展就是一場賽局,參與其中的角色有以中美為領頭羊的國家、以九巨頭為主的企業、培訓AI人才的頂尖教育機構,還有我們這群廣大的使用者。本書並不是以想像力預測未來,而是以政治、經濟、科技等事實,進行「情境分析」,提供未來五十年務實面、樂觀面、悲觀面的遠見規劃。在這場賽局中,我們應該站在宏觀的角度,思考自身位置,以及與人工智慧之間的競合關係與發展。

本書作者,定量未來學家艾美.韋伯是史登商學院的策略遠見教授,她所創辦「未來今日機構」替財星五百大企業和全球一千大公司、政府機構、大型非營利組織、高等教育機構和世界各地新創公司提供諮詢服務。在本書中,韋伯展露她淵博的知識,了解驅動人工智慧背後科學,特別是了解可能造成中美兩國地緣政治的緊張局勢。她分析人工智慧會如何重塑經濟和當前的世界秩序,幫助人類策畫更好的方向。世界各地的教育機構和董事會應該拿這一本書來討論。

必看本書的三個理由

  1. 在中美競爭框架上談AI的未來發展:積極投入AI的科技九巨頭,正好代表未來AI發展的兩條路線:以美國為主自下而上的市場路線,以及以中國為主自上而下的政治路線。本書清楚分析兩大路線下的產業發展,以及未來走勢,為台灣當前產業提供適當的背景與思考脈絡。
  2. 原文書曾在台灣產業研討高峰會上亮相:廣達集團林百里董事長於2019年10月底的華人領袖遠見高峰會上援引《AI未來賽局》原文書,談論未來在AI研發與商用上,台灣產業可以扮演什麼樣的角色。與會者皆產官學媒界重要人士。
  3. 宏觀且務實的內容,且適合大眾閱讀:本書將全球AI發展的脈絡放在中美競爭的框架上,更將關注點放在與AI相關的「人」身上,從人工智慧的技術簡史、中美AI強權的研發思維,談到未來可能的情境。全書約十七萬字,分量適中。
(八旗)0UNF0008AI未來賽局_立體300dpi
Photo Credit: 八旗文化出版

責任編輯:翁世航
核稿編輯:丁肇九