AI要你滅亡,必先令你瘋狂——霍金憂慮人類末日

AI要你滅亡,必先令你瘋狂——霍金憂慮人類末日
Photo Credit: Reuters/達志影像
我們想讓你知道的是

霍金從不否認AI會帶來好處,但強調其威脅乃源自人類本身──貪婪和愚蠢。

唸給你聽
powered by Cyberon

文:李潤茵(信報月刊記者)

幾年前,學術界曾進行調查,訪問世界頂尖人工智能(AI)專家,問他們「AI何時會有成年人類的思考力?」,多數答案是2040至2050年,換言之是距今二三十年。

22世紀殺人網絡

2199年,人類頸後接口會插入數據線接駁電腦,下載程式「入腦」及進入主程式「母體」內生活。母體內建各種程式,五官感受會從超級電腦經神經末梢傳入大腦。這是《22世紀殺人網絡》(Matrix)科技達到最極致的世界。

電影攝於1999年,當時互聯網剛成形,不足20年,虛構已經成為現實。今年3月,Tesla創辦人Elon Musk成立新公司Neuralink,研究於大腦中植入芯片與電腦直接聯繫,把人類思維「下載」到電腦中,或將電腦中的訊息「上傳」到人腦。

AlphaGo去年以慢棋4比1戰勝圍棋職業九段高手李世石,AI震驚世界。1997年IBM「深藍」擊敗西洋棋世界冠軍後,直至2015年電腦最佳戰績僅能達圍棋業餘五段。李敗陣未滿一年,帳號「Master」以快棋60比0橫掃逾20名職業高手,真身就是「棋靈王」AlphaGo第二代,其自學能力已遠超人類理解範圍。(編按:今年5月AlphaGo亦以3:0擊敗世界棋王柯潔)

一場人類命運的辯論正式拉起帷幕。AlphaGo由DeepMind進行研發,該公司創辦人Demis Hassabis曾推出遊戲《邪惡天才》,主角科學家為統治世界,創造出末日設備。在科技界,Demis Hassabis及Elon Musk站在AI正反方。前者曾拜訪後者的火箭工廠SpaceX。

Elon Musk說:「我們要殖民火星,就是怕有朝AI攻擊人類,我們還有藏身之地。」Demis Hassabis隨即笑着回應:「那AI都會追到火星!」Elon Musk甚至恐怕Google創辦人Larry Page也是「雖有良好意願,卻意外造出邪惡機械人」。2014年Google收購DeepMind時,條款就包括「雙方必須組建倫理委員會」。

AP_7108630706092
Photo Credit: Lee Jin-man / AP Photo / 達志影像
DeepMind創辦人Demis Hassabis
「23條」規範發展

「人工智能有強弱之分。」華為諾亞方舟實驗室主任李航向本刊解釋,弱者部分實現人類智能;強者則完美實現人類智能,甚至超出人類智能。他比較過人腦和計算機,兩者規模已經相當。「處理速度上,計算機基本已經是人腦100萬倍。」

「2075年機器就會達到人類智慧90%」,牛津未來智能研究所創辦人Nick Bostrom預言。去年12月白宮就連發3份報告要為AI做好準備、9月美國五大科企罕有進行AI合作,連歐盟都在探討道德問題。專家恐懼「強人工智能」,今年1月逾2000位業界就聯署23條發展原則,包括Demis Hassabis及Elon Musk。

物理學家霍金就三番四次警告人類, 指AI已開始站穩陣腳,未來將為人類帶來末日,「蘋果Siri、Google Now和微軟Cortana只是IT軍備競賽的預兆」。他從不否認AI會帶來好處,但強調其威脅乃源自人類本身──貪婪和愚蠢。「6年前,我警告過污染和人口膨脹,但現在變本加厲。過去5年,空氣污染加劇,二氧化碳排放量不斷上升;若目前速度持續,到2100年全球人口將達110億。」Elon Musk也認同霍金說:「有時候科學家太埋首於自己世界,往往未能意識到所作所為有何後果。」

2045年超越人類?

另外,「AI比人類進化速度更快」。霍金這種憂慮已經發生,AlphaGo用了短短6個月,就從圍棋二段升至九段,這水平人類要花8年努力才能達到。美國未來學家Ray Kurzweil早於2005年就著書《奇點臨近》(The Singularity is Near)預測,2045年AI將完全超越人類。人類能理解智商80,也理解智商180,但智商1880億呢?科技專欄作者「零機壹觸」曾撰文指:「醫治疾病經AI計算後,最有效的方法可能是消滅全部可能患病的人。」這就是霍金所說「一旦AI能自我進化,人類無法預測其目標」。

這種「失控」已發生在微軟身上,去年其AI聊天機械人Tay上線不足24小時就下架,皆因它言論偏激、種族歧視。Tay因反饋機制而擁有「個人特質」,卻同時墮入「高德溫法則」(Godwin's Law)。該法則指線上討論往往不合邏輯,甚至荒謬,如網民傾向將厭惡者比作希特拉,故意用納粹結束話題,參與者難免受影響。Elon Musk嘲諷:「看吧!讓聊天機械人變成希特拉,微軟只花了一天時間。」

歷史的終結

Nick Bostrom曾出版《超級智能》(Superintelligence)。這位哲學教授警告:「一旦不友好的超級智能誕生,就會阻止我們替換它或改變其喜好,我們的命運就會被終結。」前美國國務卿基辛格也怕歷史因而斷裂,甚至瓦解整個人類文明。

不過,「情感、創造力和自由意志對於現階段的AI仍非常困難。」李航解釋人腦是緊密連接、並行處理;電腦則是稀疏連接、順序處理,「感知、認知處理都很難用數學模型。」但這並非「不可能的任務」。

「隨便給它四個字就可作首唐詩。」IBM香港首席科技專家戴劍寒向記者介紹AI詩人。自古以來,寫詩都是抒情。「偶得」利用人工神經元學習過萬首唐詩宋詞,記者就輸入「信報月刊」四字,嘗試一睹其文采,不消3秒已經「出貨」。

詩句基本符合平仄、對仗、押韻,但「詩意及用詞難解」,連曾任金庸及李嘉誠中文秘書的文學博士楊興安都說:「可能每句均有典故,可惜本人未能參悟。」他評價「感覺似牽強堆砌」,但坦言「看不出是機器作的」。

圖靈曾說如果電腦欺騙到人,甚至令人信「它」是人,便是人工智能。Kurzweil預計到2030年人類都會進化成半機械人(Elon Musk的人機合一正是這項實驗),通過神經系統進入虛擬現實(VR)世界。事實上,AI早已改變人類行為。傳播學者McLuhan提出「人的延伸」,智能手機就是「大腦延伸」,Google搜索引擎開始已靠AI、Facebook用AI捉心理賣廣告。

RTS2ZIH
Photo Credit : Reuters/ 達志影像
沒有硝煙的戰爭

2016年,高盛發表報告就提出「AI將如同九十年代的技術變革」,近年全球資金快速湧入該領域,中國就提出明年要形成千億級市場。AI未取代人類,先取走飯碗,單單今年3月已殺退摩根大通的律師及貝萊德的基金經理人。

在人類演化中,機器很早已經取代「勞力」,繼而取代「腦力」似乎已順理成章。「AI危險不在於手上有槍,而是比人類更聰明。」美國加州大學柏克萊分校AI研究所聯合創辦人Eliezer Yudkowsky說:「只要發幾封電郵就可獲分子武器,合成細菌經微型電腦進入血液,只要釋放一微克肉毒桿菌,就足以殺人於無形。」

相關文章:

節錄2017年5月份《信報財經月刊》Android揭頁版iOS揭頁版

責任編輯:歐嘉俊
核稿編輯:王陽翎