《AI世代與我們的未來》:最具革命性也最不可預測的後果,會發生在人工智慧與人類智慧相遇之處

《AI世代與我們的未來》:最具革命性也最不可預測的後果,會發生在人工智慧與人類智慧相遇之處
Photo Credit: Shutterstock / 達志影像

我們想讓你知道的是

三位世界上極富成就的思想家齊聚一堂,思考人工智慧將如何改變我們與知識、政治和所生活的社會之間的關係,探索人工智慧對我們所有人的意義。我們正在經歷一個空前的、不同於以往的時代。

文:亨利.季辛吉(Henry A. Kissinger)、艾力克.施密特(Eric Schmidt)、丹尼爾.哈騰洛赫(Daniel Huttenlocher)

人工智慧與安全動盪

核子武器的毀滅力量和網路武器的神祕,搭配上新型態的戰力,結合前幾章所說的人工智慧原則。悄無聲息,有時候試探性地,帶著清楚、明顯的力道,各國都在開發和部署人工智慧,以採取策略行動,啟動不同的軍事戰力,有可能對安全政策帶來革命性的影響。

將非人邏輯導入軍事系統與流程會改變戰略。和人工智慧一起訓練或搭配的軍隊與維安部隊將掌握內情和影響力,可以奇襲,也會造成混亂。這種夥伴關係可能會讓傳統的戰略與戰術失效,也可能會對傳統的戰略和戰術帶來決定性的強化力量。如果人工智慧經過指派可控制(攻擊型或防禦型)網路武器或戰機等實體武器,可能將迅速執行一些人類很難執行的功能。像美國空軍的已經在試飛階段就駕駛過戰機、操縱過雷達系統了。在這個例子中,開發人員設計人工智慧在沒有人類控制的情況下做出「最後的判斷」,但人工智慧的能力僅限於操縱戰機和雷達系統。其他國家和設計團隊的限制可能比較少。

人工智慧除了可能影響戰略之外,因為有單獨的邏輯可以自主運算,所以還會加上一層不可計算的特質。最傳統的軍事戰略與戰術基礎,是假設人類敵軍的行為或決策符合已知的框架,或符合經驗與傳統智慧的定義。可是人工智慧操縱著戰機或掃描目標時,依循自己的邏輯,對手可能不知道這是什麼邏輯,也無從判斷這是不是傳統的信號或虛招,而且在多數情況下,人工智慧的處理速度比人類的想法來得快。

戰爭一直都不確定,一直在應變,可是人工智慧加入之後會創造新的維度。因為人工智慧很動態,還可以因應危急情況,有些國家就算是開創出人工智慧設計的武器或人工智慧操作的武器,也不完全知道這武器有多強大,或是在特定情況下會怎麼做。若這樣東西可以察覺到人類不一定能那麼快就察覺到的環境變化,並且從中學習、變化,而且學習與應變得速度還比人類的思想更快,那我們要怎麼開發出攻擊或防衛的戰略?如果有人工智慧輔助的武器依賴人工智慧對於戰況的覺察,並且根據人工智慧觀察到的現象做出結論,有些武器的戰略效果是不是要用了才知道?如果對手祕密訓練自己的人工智慧,在衝突之外的各國元首,會知道他們在軍備競賽中是領先還是落後嗎?

在傳統衝突中,對手的心理對於戰略行動至關重要。演算法只知道自己的操作方式與目標,不懂道德與質疑。因為人工智慧有潛力可以適應遭遇的現象,當兩種人工智慧武器系統要對抗的時候,沒有一邊能清楚理解互動的結果,或波及其他領域的間接影響。

人工智慧或許只能很不精準地判斷對手的能力,以及攪進衝突裡要承受的代價。對於工程師和建造者來說,這些限制讓他們更重視速度、效果的範圍和耐受力,這些特性會讓衝突更緊繃,讓更多人感受到衝突,並且讓衝突更難預測。

同時,即使有了人工智慧,堅強的國防還是安全的前提。因為人工智慧無處不在,所以不會有任何國家單方面放棄這項新科技。但就算各國政府在加強武裝,也應該評估並試著探究要怎麼把人工智慧的邏輯加到人類的戰鬥經驗裡,才能讓戰爭更人性化、更精確,並反思這整件事情對於外交與世界秩序的影響。

人工智慧與機器學習擴大了現有武器的能力,所以會改變行為者的戰略與戰術選項。人工智慧不但可以讓傳統武器瞄準目標時更精確,也可以用不同於傳統的新方式來瞄準,例如(至少理論上)可以瞄準人或物,而不是地點。人工智慧網路武器在整理了海量資訊之後,可以學習在不需要人類發現軟體弱點的時候就突破防備。同樣地,人工智慧可以用於防衛,找出缺陷並在敵人利用漏洞之前加以修復。但因為攻擊者可以選擇目標,人工智慧讓攻擊方擁有必然且可能無法超越的優勢。

如果對手訓練人工智慧去操縱戰機、獨立設定目標、開火,那麼使用更大型武器(或甚至核武)的戰術、戰略與意願會有何變化?

人工智慧開啟了資訊領域戰力的新視野。生成型人工智慧可以創造許多真假難辨的假消息。由人工智慧促成的不實資訊或心理戰,包括使用人造的人物、圖片、影片、演講在自由社會裡創造新的罩門。許多遊行活動的照片和影片被廣為轉載,也創造出很多逼真的照片和影片,偽造公眾人物說出他們從未說過的話。理論上,人工智慧可以找到最有效的方法來傳遞這些合成的內容,針對特定族群的偏見和期待來訂製人工智慧生成的內容。如果國家元首的合成圖像經過對手變造,來煽動社會不和諧的氣氛,或發起讓人誤解的指令,大眾(或甚至其他政府與官員)能即時分辨真假嗎?

核子武器的領域裡有廣為接受的禁令,還有清楚的嚇阻概念(衝突升高的程度),但關於人工智慧的運用,這些都不存在。美國的對手正在準備由人工智慧輔助的實體武器和網路武器,根據報導,有些已經在使用了。人工智慧的力量準備要部署機械和系統,運用快速的邏輯和應變的行為來攻擊、防禦、偵搜、散播不實資訊、辨識對方的人工智慧、中止對方的人工智慧。

人工智慧的能力在進化和擴散,大國在沒有可驗證的限制之下,會繼續努力追求優勢地位。他們會預設只要有用的新人工智慧能力出現,人工智慧必然擴散、普及。由於人工智慧科技可軍民兩用,容易複製和傳播,人工智慧的基礎功能和關鍵創新一定有很大一部分是公共、公開的。人工智慧被控制的地方,那些控制措施一定會被證明不夠完美,不管是因為科技進步讓這些控制措施過時落後,或因為這些控制措施只要對方下定決心就一定能找到方法滲透。新用戶可能會為了不同的目標去調整底層的演算法。一個社會裡的商業創新,可能會被另一個社會轉用成安全用途或資訊戰用途。人工智慧發展最尖端的部分裡最具戰略意義的那些層面,會經常被政府採用,以符合國家利益。