人工智慧三階段：為何科學家聯署要求，限制可能導致人類滅絕的AI技術？

包括OpenAI和谷歌Deepmind負責人在內的專家警告，人工智慧可能導致人類滅絕，但是機器如何取代人類呢？

自2022年11月推出以來，ChatGPT——一款使用人工智慧根據用戶的需求回答問題或生成文本甚至代碼的聊天機器人，已經成為歷史上增長最快的網路應用程式。

在僅兩個月的時間裡，它的活躍用戶達到了1億。據科技監測公司Sensor Town稱，Instagram花了兩年半的時間才達到這一里程碑。

OpenAI公司在微軟的資助下開發的ChatGPT廣受歡迎，引發了人們對人工智慧影響人類未來的激烈猜測。

數十名專家支持在人工智慧安全中心（Center for AI Safety）網頁上發表的一份聲明，稱：「減輕人工智慧造成的滅絕風險，應該與流行病和核戰爭等其他社會規模的風險一起成為全球優先事項。」

但也有人表示，這種擔憂被誇大了。

模仿人類

ChatGPT、DALL-E、Bard和AlphaCode等人工智慧產出的文本（從散文、詩歌和笑話到計算機代碼）和圖像（如圖表、照片和藝術品），幾乎與人類自己的作品一模一樣，難以區分。

學生們用它來寫作業，政客們用它來寫演講稿。民主黨眾議員傑克・奧金克洛斯（Jake Auchincloss）在美國國會推出了這一資源。

科技巨頭IBM稱，將停止招聘7800個可以由人工智慧處理的職位。

如果所有這些變化讓你不知所措，那就做好凖備：

Photo Credit: Getty Images / BBC News

我們還只是處於人工智慧的第一階段，還有兩個階段即將到來，一些科學家害怕這可能會威脅到人類的生存。

以下是三個階段。

1. 弱人工智慧（Artificial Narrow Intelligence）

弱人工智慧也被稱為限制領域人工智慧，專注於單一任務，在一系列功能中執行重覆性工作。

它通常從大量數據中學習，比如從網路上學習，但只在它被編程的特定領域學習。

一個例子是象棋程式，能夠擊敗世界冠軍，但無法執行其他任務。

智慧手機上到處都是使用這種技術的應用程式，從GPS地圖，到了解你的口味並提出建議的音樂和影片程式。

甚至更複雜的系統，如無人駕駛汽車和ChatGPT，都是弱人工智慧的形式。他們不能在設定的角色範圍之外運作，所以不能靠自己做決定。

但一些專家認為，被編程為具有自動學習功能的系統，如ChatGPT或AutoGPT，可能會進入下一個發展階段。

2. 人工通用智慧（Artificial General Intelligence）

當機器能夠完成人類所能完成的任何智力任務時，人工通用智慧（Artificial General Intelligence）就將到來。

Photo Credit: Getty Images / BBC News

它也被稱為「強人工智慧」。

• 六個月的暫停

2023年3月，1000多名技術專家呼籲「所有人工智慧實驗室立即暫停至少六個月的比GPT-4更強大的人工智慧系統的訓練」，GPT-4是ChatGPT的最新版本。

包括蘋果聯合創始人史蒂夫・沃茲尼亞克以及包括特斯拉和SpaceX公司老闆伊隆・馬斯克在內的其他科技巨頭寫道：「具有與人類競爭智力的人工智慧系統可能對社會和人類構成深刻的風險。」馬斯克曾是OpenAI的聯合創始人之一，後來因與公司領導層意見不合而辭去了董事會職務。

在這封由非營利機構「生命未來研究所」（Future of Life Institute）發布的信中，專家們表示，如果公司拒絕迅速停止它們的項目，「政府應該介入並實施暫停令」，以便設計和實施安全措施。

• 「既聰明又愚蠢」

牛津大學人工智慧倫理研究所的卡麗莎・韋麗茲（Carissa Véliz）在這封信上籤了名。但她認為，人工智慧安全中心後來發布的警告滅絕的聲明太過了，因此決定不簽署。

「我們目前正在開發的這種人工智慧既聰明又愚蠢，」她告訴BBC的安德魯・韋伯（Andrew Webb），「如果有人嘗試過ChatGPT或其他人工智慧，他們會注意到它們有非常顯著的局限性。」

韋麗茲表示，她擔心人工智慧會以極高的速度製造錯誤訊息。

「隨著2024年美國大選臨近，像推特和其他重要平台解僱了他們的人工智慧道德和安全團隊，我更擔心這一點。」

美國政府承認潛在的威脅。白宮在5月4日的一份聲明中稱：「人工智慧是我們這個時代最強大的技術之一，但為了抓住它帶來的機遇，我們必須先降低它的風險。」

美國國會曾傳喚OpenAI首席執行官山姆・阿特曼（Sam Altman）回答有關ChatGPT的問題。

Photo Credit: Getty Images / BBC News

在參議院聽證會上，阿特曼表示，隨著人工智慧的發展，政府對他的行業進行監管是「非常重要的」。

生命未來研究所的公共政策研究員古鐵雷斯（Carlos Ignacio Gutiérrez）對BBC解釋，人工智慧帶來的巨大挑戰之一是，「沒有一個由專家組成的聯合機構來決定如何監管它，就像政府間氣候變化專門委員會（IPCC）那樣。」

這就把我們帶到了人工智慧的第三個也是最後一個階段。

3. 超人工智慧

這是一種理論，當我們到達第二階段時，我們將很快進入最後階段：「超人工智慧」。當人工智慧超過人類智慧時，就會出現這種情況。

牛津大學哲學家、人工智慧專家博斯特羅姆（Nick Bostrom）將超智慧定義為「在幾乎所有領域，包括科學創造力、一般智慧和社交技能，都遠遠超過最優秀的人類大腦的智慧」。