對於未來,我擔心的不是人工智慧像人,而是人像人工智慧

對於未來,我擔心的不是人工智慧像人,而是人像人工智慧
Photo Credit: Depositphotos

我們想讓你知道的是

對於未來,我並不太擔心人工智慧和人類的全面對抗,也不擔心人類文明受到根本威脅,但是我擔心人類越來越不重視自身的情感,將自己的一切都劃歸到數字世界,將自己徹底數位化。

文:郝景芳

人工智慧的最大難題是什麼?

寫到這裡,可能有人會問:為什麼非要讓人工智慧像人呢?

人工智慧對人類世界沒有感受情緒又怎樣?人工智慧自己掌握強大的算力和全新算法,可以發展得比人類更強大,又為什麼要在意與人類交流?人類的愛恨情仇屬於進化的殘留,既原始又低效,人工智慧為什麼要學習呢?它們完全可以不像人也很強大。

這樣想也完全沒問題,而且是很有可能的:它們發展成跟我們不一樣的強大智慧。我們就假設人工智慧未來不屑於獲得人類世界常識,也不關心人類的愛恨情仇,自顧自發展強大,那麼它是不是就沒有任何問題了?

也不是的。

即便僅考慮它自己,也仍然需要面臨內部調控問題。它可以不建立對世界的統一描述,但它至少需要對自己內部思維有統一調控。

什麼叫內部自我調控呢?

實際上,任何人的心智都不是單一的,每個人的自我都是許多模塊、功能和目標的集合。自我就是對所有模塊的綜合統領。前面講了情緒情感、欲望動機、對他人的感知同情,這裡探討了高級認知的不同層次。而所有這些,都是人這個「大企業」的不同部門,人腦前額葉的功能就是統領好這些部門。

目前的人工智慧一般都是單一功能的,下圍棋、開汽車或者做投資,不同的人工智慧有不一樣的網路結構,沒辦法多功能。如果停留於此,那麼未來人工智慧就是強大的專業工具,不可能成為某種具有特性的新智慧種族。幾乎可以肯定,未來人工智慧的發展肯定不會停留於單一功能,多功能人工智慧的開發,也一定會取得進展。目前,克服前述「遺忘災難」的辦法就是發展多個網路,再進行系統整合。

一旦同一人工智慧開始有多重能力,就會生成多種目標,這些目標不可能同時去追求,就會涉及到目標之間的關係和衝突。不同功能模塊之間的能力和需求可能不一樣,例如追求圍棋取勝的功能模塊需要不斷和自己對弈,而追求語言溝通的模塊卻要一直與更多人對話。最終需要有協調控制機制,讓所有模塊和諧相處。

無論人工智慧是否在意人類,在它們自身心智系統複雜化的過程中,都需要自我調控。不能自我調控的智慧會很容易陷入僵化或瘋狂。單一功能的人工智慧只需要下圍棋,不需要思考「我是否要下圍棋」,但一旦它自身的心智系統包含了很多個功能模塊,就需要在所有目標之間做出選擇。目前人工智慧還由程式師進行目標抉擇,但早晚有一天,它們需要具有抉擇能力。

RTX3744I
Photo Credit: Stringer ATTENTION EDITORS / Reuters / 達志影像

人工智慧下棋戰勝人類毫不稀奇,但未來,當它的對手是它自己,就需要有高層次決策能力。這是它們未來發展的最大挑戰。

人類是如何管理自己的多重心智模塊的?

人類在這方面,也並沒有特別好的榜樣經驗。人類心智系統內的衝突往往異常劇烈,而人類常常被這種衝突搞得目瞪口呆。

當你內心中為「失戀」悲痛,非常想好好「吃一頓」安慰自己,你頭腦中卻有另外兩個小人阻撓,一個說「還吃還吃,再胖還得失戀」,另一個說「哭什麼哭,好好學習升職才是正經」,然而悲痛的部分無力地說著「我做不到」,煩躁的部分說「都是因為你活得這麼壓抑才會失戀」。最後會有一個很無奈的仲裁者說:「你們都別吵了,再吵我就抑鬱了。」

這就是我們日常頭腦中上演的多模塊之爭。馬文.明斯基把人的頭腦稱之為「心智社會」,就是說頭腦中的各個「小人兒」就像一個複雜社會一樣嘈嘈雜雜。

不過,儘管我們自己有這麼多混亂的時刻,我們的自我管理能力仍然是機器學習的榜樣。對機器的研究需要反過頭來追問人類,機器研究和人腦研究始終相輔相成向前推進。明斯基把人類的心智系統分成了六層,仔細琢磨起來十分有見地。

按照這種模型,每個人的心智系統都有很多層次,每一層都有「行動者」和「批評者」,行動者給出路徑建議的選項,批評者從自己的角度加以評估質疑。例如當我們想要獲得考試成功,一個頭腦中的行動者建議多做題,相關的批評者會說時間來不及了,另一個頭腦中的行動者建議去偷答案,相關的批評者說違背公德可不行。

其中,沉思一層是我們尋找最優路徑,反思一層是我們質疑自己找到的路對不對,自我反思一層是我們質疑自己能不能找到路徑,自我情感意識一層是問自己到底為什麼這麼做、選擇的意義是什麼。這些批評家讓我們活得專業而審慎。但是如果每一層的批評家都活躍,我們卻又可能會寸步難行。事實上,當我們把頭腦中的批評家關閉一些,行動者會更加冒險,大膽行動,而那是我們感覺最快樂的時候。

重要的是,每一層批評家都根據某些價值評判準則做出評估,若沒有足夠強大的價值評判體系,則很多衝突難以協調和仲裁。有可能模塊與模塊之間缺乏平衡,某一方向過於強大,擠占所有心智資源,讓人陷入偏執;也有可能各個方向過於平衡,沒有精神力量推動,整個體系陷入無法抉擇的心智「糾結」,讓心智崩潰。

Robot_replaces_human_2
Image Credit: Depositphotos

對於人類來說,具體任一部分的功能都不需要做到極致,各個功能之間的協調統一才是追求的目標。我們在生活中既不喜歡那些不學無術的愚蠢之人,也不喜歡不懂得生活、只懂讀書的書呆子;既不推崇只會計算、不懂與人交往的自閉症患者,也不推崇只懂察言觀色、毫無真才實學的投機分子。任何一個模塊的缺失都稱為某種心理障礙。我們頭腦中的偶像,總是有勇有謀(既有腎上腺素情緒、又有皮層思考)、敢愛敢恨(情感系統敏銳發達)、志存高遠(動機層次高尚)、俠肝義膽(對他人有同情和幫助),也就是說,一個綜合協調的人。