【一時】Google巨擘沒你想像中高傲、比爾．蓋茨誤解了哈拉瑞

Photo Credit: Eduardo Munoz / Reuters / 達志影像

其實，科技巨擘沒有你想像中高傲

不少人可能受科幻電影或劇集影響，很易聯想現實世界的科技巨擘、學者，若非散發著不可一世的氣息，就是活像個脫俗的科學怪人，滿腦子算式，言語乏味，不理會其他人的生活。

這樣的想像，不排除能套在領域內一些技術人員身上，但說到重要的領頭人物，往往並非如此。

我們不妨由他們的一次聚餐談起。

麻省理工學院物理學教授鐵馬克（Max Tegmark），在2008年首次在Google總部跟佩吉（Larry Page）碰面，當時佩吉身穿普通牛仔褲與襯衫，言談輕鬆，溫文細語，感覺他相當平易近人。相隔七年後，二人在2015年見面，那一年，Google經已是年收745.41億美元、利潤達234.25億美元的全球巨企，在馬斯克（Elon Musk）安排下一起聚餐，鐵馬克與佩吉攜眷出席，他們終於有時間詳談科技大勢，這些聰明絕頂的人難得交流，想必是一番「華山論劍」吧？

說來有點尷尬，他們的聚餐第一個話題，不是科技，而是「糞便」，因為二人赫然發現家中小孩都喜歡研究糞便，即興起談論那本《屁股發神經的那一天》（The Day My Bum Went Psycho）。看到這裏，我們或感到錯愕，其實不只有我們，鐵馬克也為此感到錯愕，他身為學者，沒想過科技巨擘真可以如此樸素隨和，生活無事不談。

看似簡單的一幕，我們可以明白，佩吉不是那些自詡高人一等的權貴，對小事感到興味索然，斥之無聊瑣碎，還有小孩子都交給女人負責就好了，大忙人甚麼都不會知道，所謂「秒秒過千萬上落」；結果叫人跌破眼鏡，這樣的一個人顛覆了鐵馬克的觀感，當時他心想：

「（從談起糞便的話題）我必須提醒自己，眼前的佩吉可是史上最具影響力的知名人物：我敢打包票，如果有生之年能看見超級聰明的數位生命統治這整個宇宙，那也一定是佩吉決定要這樣做。」

(“I struggled to remind myself that he might go down in history as the most influential human ever to have lived: my guess is that if superintelligent digital life engulfs our Universe in my lifetime, it will be because of Larry’s decisions.”）

直至二人的太太介入，要求他們別再討論糞便，才算是了結這課題。終於，聚會到了凌晨時分，馬斯克、佩克、鐵馬克等人可以為未來科技世界暢所欲言，基本上，佩克是其中想法最樂觀的人，相信解放人工智能發展，將會為人類帶來前所未有的理想，鐵馬克為此起了一個名字：數位理想國／烏托邦（Digital Utopia）。

比爾蓋茨有說錯哈拉瑞的部分，也有說對的部分

Photo Credit: The New York Times

我們暫且保留這種樂觀的態度，先接續前篇，回到哈拉瑞對未來社會充滿焦慮的看法。

大約在10天前，筆者預料哈拉瑞（Yuval Noah Harari）新書《21世紀的21堂課》（21 Lessons for the 21st Century）將會是三部曲以來，最惹起全球熱議的一次，也絕不止於宗教議題，還有其他。言猶在耳，早前比爾．蓋茨（Bill Gates）便透過書評提出異議。

其中，蓋茨談到不認同哈拉瑞的一點：

「他（哈拉瑞）運用了一個巧妙的思維實驗，來證明人類在創造全球文明的路上已經做了多少。想像一下，如果試圖在1016年舉辦奧運，這顯然不可能。因為亞洲人、非洲人和歐洲人不知道美洲的存在；中國宋朝認為世界上任何一個政治實體都不可能與它平起平坐；在頒獎典禮上，甚至沒有國旗可以飄揚、或國歌可以奏響。

問題的關鍵在於，當今各國之間的競爭——無論是在運動場還是在談判桌——『實際上代表了一項驚人的全球協議』。這一全球協議使合作和競爭變得更加容易。下次當你開始懷疑我們能否解決氣候變化這樣的全球性問題時，請記住這一點：過去兩年，我們的全球合作可能倒退了幾步，但在那之前，我們已經前進了一千步。

那麼，為什麼似乎我們總感覺全球合作在衰退呢？主要是因為我們不太願意忍受不幸和痛苦。儘管世界上的暴力已經大幅減少，但因為我們對於不公正的憤怒正與日俱增，從而更關注每年在戰爭中死亡的人數。」

其實，蓋茨並未真切讀懂哈拉瑞的原意，他要說的並不是全球各國的緊張關係，跟1016年毫無差別，他真正要帶出是人類社會相隔了千年，預期種族與民族鬥爭應大為減退，意想不到國族主義的影響力，遠比想像中持久，影響力依然巨大。

哈拉瑞固然知道過去千年歷盡變化，一系列著作都在反映「今時不同往日」，自然明白21世紀全球政經關係更為密切，但是，國族主義「信仰魔力」仍在，意味更廣大的合作顯得困難重重，不少國家還在宣揚各自的「國族尊榮」，如何與別不同，政治陰謀論滿天飛，勢難以聯合應付極端氣候、人工智能（AI）帶來的衝撃。

這才是他真正要說的論點，可見，在哈拉瑞的立場來看，並不是人類在過去千年都沒有進步過，而是相對於未來的種種危機，我們做得「遠遠未夠」，尚有充滿問題的觀念，從國家乃至人民都無法放下，互不信任、連番衝突。

當然，國際關係只是議題之一，蓋茨亦談及科技，強調不同意書中那句「（擁有）資料將取代土地和機器，成為區分富人和其他人的最重要資產」，認為土地永遠佔有重要地位。

無論如何，蓋茨跟哈拉瑞不同，他對未來保持樂觀的態度，是非常正確的大方向。接下來我們重點談論的，正是科技趨勢，這才是最備受爭議的層面。

將來人類受演算法「入侵、擺布」，有如此嚴重嗎？

Photo Credit: Random House Youtube截圖

新書中，哈拉瑞很可能「不經意」高估了人工智能帶來全面的威脅，如果說憂慮失業潮尚且說得過去，但是，人們未來的生活可能受盡演算法擺布，真的嗎？可能性有多大？僅在這點上，似乎，哈拉瑞令人感覺其危言聳聽，或換溫和一點的說法，他很可能「過慮」了，不管是否語氣稍重，接下來筆者會為此加以說明（補充：哈拉瑞在9月14日跟Terrence McNally對談時指，他有意寫得悲觀一點，以「平衡」全球可能過分樂觀的輿論）。

為免誤解哈拉瑞的意思，筆者特意重溫一次他8月底接受半島電視台訪問，期間他談及新書內容，再次強調一種危機感，指將來演算法確有可能像電腦病毒入侵主機一般，隨時入侵人們的各種抉擇。

實際上，哈拉瑞口中的極端情形若要發生，筆者評估須具備兩大情況：

1. 即使AI科技未達「強人工智能」（Strong AI，可稱作通用人工智能）水平，但出現一個不受政權、國界限制的巨企，屆時壟斷了「全球所有AI頂尖技術」，把所有成熟的「弱人工智能」（Weak AI）整合運用，而剛好那位企業家大權在握，剛好又是位心術不正之人，處事完全妄顧他人福祉，設法躲過一切監察，任意進行不同計畫（另一類似情況是：政府操控該企業）。
2. 就是「強人工智能」終於被研發成功，全球各國政府或企業手握技術，並擁有大量數據，只要主管一聲令下，智能機器自然透過更強的「深度學習」找出方法辦妥，屆時大眾不只無力抵抗，甚或是受到操弄依然不知不覺。

雖然上述情況未至於荒誕離奇，然而要有足夠條件又在20至30年內出現，可能性並不那麼大。如同第一種情況所述。

哈拉瑞的擔憂有一定因由，他的思維方向，主要是把目前陸續發生的「科技不良徵兆」，設想它嚴重十倍至百倍進行推演。例如，現在facebook可以與廣告商合作，安排大量廣告影響我們直覺，使我們購買更多產品；或分析用戶點撃某類網頁次數，推估他們一些生活細節，進行各類商業用途（甚或可能用在政治用途）；或在政治選舉期間，演算法可以顯示更多貓貓影片，刻意令人分神，少去關注社會大事，乃至一面倒看單邊的政治宣傳。

按這樣的模式發展下去，不同干預人們抉擇的做法，可塑性只會愈來愈多樣化，將來，大企業或政府會否因為更先進的智能手錶，快速又準確知道我們每人的身體狀況？對我們的私隱和保險有何影響？

他又提出另一憂慮，當有朝一日，檢測人體狀態的生物科技結合演化法，這樣的科技普及後，擁有權勢人士假如能夠取得大量公眾數據，他們會否有辦法多方面又深入地動搖我們的抉擇？透過大量資訊挑動我們的情緒，仇恨我們的政敵？至少一部分人開始覺察，在民主選舉中，群眾訴諸於情緒看來多於理性。

儘管，他的憂慮我們可以理解，只是，哈拉瑞未有評估發生的時間，也沒有具體分析如何做到，他旨在述說一種「可能性」；但這樣的可能性忽視了實踐的難度，除非全球民主自由制度完全崩潰，否則難出現壟斷所有權力的政體與企業，誰真能蒙騙所有人繞過一切反抗而達成？讓人相當懷疑。說到底，我們最後亦能明白，驅使他提出警世反思的主因，並非他不知道現在比1938年、1968年的世界都要好，而是他永遠擔憂人類的愚蠢：

「你永遠不應低估人類的愚蠢。人類的愚蠢是歷史上最重要的力量之一。」

（"You should never underestimate human stupidity. It is one of the most powerful forces that shape history."）

實情，連全球人工智能專家也難料發展趨勢

Photo Credit: Serious Science Youtube截圖

如果我們沒有思想「偏食」的壞習慣，除了細讀哈拉瑞的著作，同時兼讀鐵馬克撰寫的《Life 3.0》、安德魯．麥克費（Andrew McAfee）、艾瑞克．布林優夫森（Erik Brynjolfsson）的《機器、平台、群眾》（Machine Platform Crowd），以及李開復的《AI世界》（AI SuperPowers），對於科技發展帶來的憂患，相信未至於那麼悲觀。

鐵馬克、李開復的意見特別值得參考，他們都比較清楚目前人工智能技術到了怎樣的地步。

就好像鐵馬克，大約三年前，他主辦了一次工智能能研討會，邀請了全球圈內許多重要人物，除非他提供第一手資訊，否則謝絕一切傳媒採訪，因為他長年受夠了那些一知半解的記者，不斷誇飾人工智能威脅論，屢次借霍金傳播恐懼：

「『多少年以後，我們有過半的機率可以讓人工智慧達到人類的水準？』對人工智慧專家進行這樣的調查，已經多到數不清，而這些調查報告的結論都是：世界上最頂尖的科學家全都眾說紛紜，也就是沒人知道答案是什麼。我們在波多黎各人工智慧研討會上做調查就顯示，大家推測的中位數是2055年，但是也不乏有些專家把時間點擺在好幾百年以後。

另一種相關的迷思，是認為人工智慧再發展沒幾年就會進展到令人害怕的程度。實情則是，大多數檯面上的人物都認為，超越人類的通用人工智慧起碼是好幾十年以後的事情，而且重點在既然我們不能百分之百肯定超人工智慧不會在這個世紀問世，最妥當的辦法就是，從現在開始未雨綢繆進行安全性研究。

⋯⋯很多安全性研究都很困難，需要花幾十年的功夫才有辦法克服，最步步為營的做法，就是從現在開始提前準備，以免哪天晚上一群暢飲紅牛能量飲品的程式設計師突發奇想，推出了人類水準的通用人工智慧，讓我們措手不及就麻煩了。」

這段分析經已回答了第二種情況。長期從事人工智能項目的「行內人」，對何時才能研發出「通用人工智能」，差異竟然如此之大，中位數接近37年之後，又假如提早一半時間出現，我們可以追問：

20年之後，各國政府是否允許少數權力壟斷這項技術，如何處理企業使用技術，此外，區塊鏈與大數據的關係演變成怎樣？通通是未知之數，人類社會的文化制度，可不是一成不變在等待「通用人工智能」出現。

DeepMind三年來震撼全球

Photo Credit: Kim Hong-Ji / Reuters / 達志影像

人工智能誘發人們的想像力之所以與日俱增，都離不開這三年之中的兩件大事。其一，是2016年、2017年，DeepMind研發的AlphaGo先撃敗南韓棋手李世乭，再撃敗當時中國兼世界第一棋王柯潔，此番戰果，打破了2012年專家估計到2022年左右，人工智能才有可能敗撃人類頂尖棋王，怎料時間足足縮短了50%，相信不少人仍未忘記，柯潔面臨落敗時痛極而泣的情境。

此外，數個月前，Google發布名為Duplex的模擬真人對話技術，成功「在預約（登記服務）的領域方面，通過了圖靈測試」，意思是測試期間，當人們致電預約酒飯店、餐廳等服務時，Duplex未有表明身份之下，足以令人以為正在跟活生生的人類服務生溝通，而自己毫無所覺，不知道只是Duplex系統。即使Duplex未正式通過「一般」圖靈測試，能處理的只是登記服務，事後經已惹來全球議論紛紛，甚至有人感到「此技術可怕」，戒懼未來的道德問題。

情況似乎每隔一年便有令人詫異的推進，可是必須謹記，不管是下圍棋抑或登記系統，均是非常狹窄的使用領域，遠遠談不上吩咐一個指令，智能系統會自主且全自動透過網絡自行學習，「無須人類指導」完成各類目標和任務，跟上文提及的「通用人工智能」差距相當相當大。

或許，別說獨立自主完成任務的執行能力，筆者認為至少能推出一種「AI解難助手」，從日常生活到學術研究，都能有條不紊地整合可靠資料，向用戶展示分類、篩選重點、對照差異和基本解答，即使無法模擬彷若真人對話，亦總算達到不俗的里程碑，但要做到的話看來依然遙遠。

有時候，神秘感來源自「陌生感」，人們遺忘了人工智能如何從數十年前一步步走到今天，直至近年取得重大突破，隨之而來便是神秘感甚或恐懼。

數十年前電腦程式連普通棋手也鬥不過，今時不同往日

Photo Credit: Two Minute Papers Youtube截圖

如果不追溯到更遠的圖靈（Alan Mathison Turing），現代開啟專門研究AI領域可數1956年，一些對自動機理論（automata theory）、神經網絡、智能研究有熱情的科學家，聚首於美國新罕布夏州達特茅斯學院（Dartmouth College），並舉行了達特茅斯會議（Dartmouth conference），這就是「人工智能」一詞誕生的時刻。

當年，資訊理論創始人克勞德．夏農（Claude Elwood Shannon）等人，期望「找出讓機器能使用語言、產生抽象概念、解決人類問題，以及自我增進的方法」（“An attempt will be made to find how to make machines that use language, form abstractions and concepts, solve kinds of problems now reserved for humans, and improve themselves. ”）

做到的話，便可駁斥那時的懷疑論者不屑之情：「絕對沒有機器能做到X！」（“No machine could ever do X!”）

可惜，由於他們一開始太過樂觀所以處處碰壁，起初設計用來跟人類對戰的西洋棋程式，別說運用高難度的棋術，卻連基本的棋步也搞不清楚，找個下棋新手也可以「捉贏」，而且輸入的資料選項增加，運算速度跟不上，跟現在的情況相反，那時等電腦運算有初步結果的時候，比賽早就結束。

後來在80年代日本通產省（今經濟產業省）牽頭推展「第五代電腦」開發計畫（英國、美國亦加大投資比併），意圖能研發出可跟人類對談，並「自動」推論運算的人工智能電腦，由於它的運算模式仍脫離不掉簡單的「If-Then」邏輯，需要相當多專家及資源輸入、更新資料和維護系統，從「Rule-based AI」這名稱也可嗅出其僵化規則的味道，不久因成效及成本問題只能放棄。

直至90年代AI基於硬件升級，再融入「貝氏機率」（Bayesian probability）及網絡數據，讓電腦可以運算大量資料成為「暴力AI」（Brutal Force AI）——透過超高速處理器、大容量記憶體，強行處理巨大資料量。也因為這層次的提升，1997年IBM開發的「深藍」（Deep blue）才能打敗人類西洋棋冠軍，就是椅靠統計與機率為運算核心的技術做到。

而AlphaGo使用的深度學習技術（Deep Learning，得益人工神經網絡研究），則要到2006年開始才有突破，2012年後Google才加快落實，到了2015年第三季經已有1,200項計畫應用深度學習技術，漸漸促成近年我們讚嘆的創舉。

假如各位有興趣對比幾十年前後的壯觀成果，有款遊戲影片值得一看，像DeepMind用Deep Q-learning玩「人工智能打磚塊」遊戲，只要設計好勝出的分數目標，任由人工智能自行學習，不但愈來愈快取得高分，到後來它更「參透」出連研究團隊難以想像的方法勝出：

不同領域取得成績，並非人工智能常常有飛躍突破

Photo Credit: 天下文化 Youtube截圖

所以，嚴格來說，一切是深度學習技術應用在多方面的效應，從處理伺服器衡溫、下棋到小型遊戲，每方面都取得亮眼成績。事實並不如許多人看到新聞報導後，以為經常有「全新」、層出不窮的人工智能技術推出。

誠如李開復最近亦發表了新書所指，書中不厭其煩扼要回顧人工智能的發展史，強調這幾年傳媒大肆報導的「突破」，算不上有何嶄新的超越，中國數年來在人工智能上，才剛剛跟美國鬥得火熱（意謂談強人工智能比較遙遠）：

「許多人之所以誤認為美國在人工智慧具有重大優勢，主要是因為還停留在我們生活在發明年代的印象中；在發明的年代，人工智慧的頂尖研究人員不斷打破舊有典範，最終破解存在已欠的謎題。

媒體不斷報導人工智慧的最新成就，更是助長了這種印象，例如：在某些癌症的診斷上，人工智慧做得比醫生更好；在德州撲克的人機大賽中，人工智慧撃敗了人類冠軍；不用人為干預，人工智慧就自己學會並精通新技能等。媒體如此關注報導人工智慧的每一項新成就，也難怪一般觀察者、甚至專業分析師，會認為AI研究不斷獲得突破性的新發現。

我認為，這種印象有誤導作用，因為在這些『新里程碑』中，很多其實只是把過去十年的技術性突破應用到新問題上，其中主要是深度學習，但還有一些互補的技術，例如強化學習（Reinforcement Learning）和轉移學習（Transfer Learning）。研究人員做這些事，需要卓越的技能和深度的專業知識，不僅要有能力思考、撰寫複雜的數學演算法，還要能夠處理巨量資料，針對不同問題調整人工神經網路。這往往需要博士級的專業知識技能，但這些發展都不過是利用深度學習這項科技大躍進所做的漸進式改變和優化。」

無論如何，哈拉瑞身為歷史學者，對未來提出一些深沉的焦慮，可謂反映其使命感之一面，正如他受訪時分享，歷史學者其實是研究「改變」的學問，透過研究過去，設法了解世事改變的本質。

我們都知道過去的經已過去，根本沒甚麼人真切關心數千年前哪位皇帝戰死了。

真正重要的是，從了解過去追問當下，我們到底學懂了甚麼，從而面對將來，追問我們應當如何思考和做事。

最後，筆者選擇跟鐵馬克與山姆．哈里斯（Sam Harris）站在「審慎而樂觀」的陣線，憂慮科技帶來不良影響的同時，支持相關單位做好各種安全規範準備，也惦記還有一些善心人，活用先進科技的優勢幫助他人，透過網絡與3D打印技術，為有需要的殘障人士提供義肢，世事並不盡是灰暗一片。

如果可見的將來，智能科技真的引起極大災禍，也不是怎麼難理解的事，因為事在人為，是人類一手造成這樣的局面，並要為此付出沉重代價，這應當是我們預料之內。

延伸閱讀：

上篇．【一時】哈拉瑞：我21歲才承認是同性戀者、別再死抱宗教和國族主義

1. AI威脅人類安全「三大立場」：Nick Bostrom、Grady Booch、Sam Harri
2. 如果AlphaGo輸了給柯潔，我們才應該感到沮喪
3. 討論「全民每月派錢」應變AI導致失業潮，未來失業是福不是禍？
4. 美國優異生退學兼「豎中指」批大學教育學者力倡教改迎接AI衝擊
5. 這次失業潮不再一樣：剖析倫敦地鐵「自動售票」涉裁900職位、Amazon Go全棄收銀員背後的意義
6. 日本學者：不止AI導致失業，不足30年所有產業或被Google統治附AI搶走工作簡表
7. 中產將會消失？年輕人上流無望？各地問題相似，極端思潮非出路

核稿編輯：歐嘉俊