「分享經濟」造成無數受害者,無止盡追求自動化又會如何?

「分享經濟」造成無數受害者,無止盡追求自動化又會如何?
Photo Credit: Depositphotos
我們想讓你知道的是

當人類著迷於網路或機器之進步,卻放棄了原則,縱容了貪婪,這是自動化最大的危機——貪婪的資本家+自閉的科學家。

時代進步的速度超乎你我的想像與預期

剛進大學時曾動過念頭去修當時最熱門的程式課,後來看到修課的同學三更半夜還在進進出出,一問之下原來是去計算機中心「打卡」寫程式(現在大概沒有年輕人知道甚麼叫打卡了),因為那時段人比較少。我心裡想「算了」,為了一門課要半夜跑來跑去,台大總校區很大,到計算機中心路途遙遠,要是再風吹雨打,那還真辛苦。

那時是1981年,沒有個人電腦,所以寫程式用打卡,要用計算機中心的中央電腦跑程式。1990年我申請學校赴美,那時依然還沒有電腦、也沒有印表機,甚麼申請表格、自傳……都要靠那種古典的打字機。年輕人應該沒人用過吧?你敲一個鍵,就會咻一聲彈出一根前面沾著字母的細鐵支,直往紙張而去,透過色帶再把字印到紙上去。一個超大的難題是,之前從來沒用過,打字的速度很烏龜也就算了,力量無法掌控,字體有的大(墨汁太多會渲染)、有的打輕了字就很模糊,根本醜到慘不忍睹。

1991我去了美國念研究所,那時個人電腦已經很普及,真是謝天謝地。也覺得以前沒電腦的時代,做研究要先去圖書館搬一大本、一大本的目錄,慢慢交叉比對你要的參考文獻。那真是所謂的「陶侃搬磚」(年輕人大概已經不知道這句成語,請搜尋一下),需要好學不倦的精神外,還要有體力堅持到底,哪像有了電腦搜尋,一個早上就可以在螢幕上搜尋數百篇的論文摘要。

可是當你想上網購物,下載東西的時候,那時可就叫苦連天了,512MB的處理器,加上運氣很好才有1MB左右的連線速度,上網購物時,等待照片上傳超花時間,下載檔案、影片也是,要拿本雜誌打發無聊等待的時間,順便監看中間有沒有斷線,斷了線重跑一次會想哭。

然而時代就此轉了個彎,從MB到GB到TB,人類在這20多年進步的速度,假如從機器來看的話,在歷史上是數億的光年。而人跟人的傳輸從託人寫信、送信、電報、電話,到現在的即時3D影像,進步也是何其的神速。

所有的大企業家都在強調速度,可是反思跟耐心呢?

在這20年裡,可能,也應該是歷史上進步與創新最快,最多的時代。想想沒有太遠的100多年前,那個還沒有馬桶、冰箱、電腦,遊戲、線上通訊、線上購物,更沒有手機、冷氣機、芒果冰,與葉克膜的世界。給你回到那時做皇帝,你願意嗎?生活品質很差耶!

講這些歷史做甚麼?對現在年輕的3C世代而言,透過手機跟網路,已然充斥了太多的資訊,很少人對歷史有興趣。有一次跟一個網路柯家軍聊天,談到當年促成台灣民主真正落實的學生運動「自由之愛」的緣起,他一點興趣都沒有,只在乎勝選與否跟權力遊戲。其實這是一個令LKK超級擔心的事情,因為政治需要有歷史觀,一場選舉、一個政策的影響有可能長達數十年,速成的政治往往留下糟糕的後遺症。

唐太宗曾說:「以銅為鏡,可以正衣冠;以古為鏡,可以知興替」,歷史最大的意義是發掘共同的趨勢與規律,知道人性會犯甚麼樣的錯誤,但年輕的一代連花幾分鐘聽歷史都沒耐心,幾個月前的事就會喪失任何重要性。政治需要回顧跟思考,科技與經濟的創新也是如此,人類一直在進步,但是也走到了一個在歷史上可能的臨界點,像地球暖化、人工智慧,我們需要停下腳步一會會,思考多一點點。

舉例來說好了,最近這幾年大陸的分享經濟、P2P,其實不就像當年台灣的葡式蛋塔嗎?一窩蜂的結果忽略了最基本的供需原則,也輕忽了風險的評估。大陸的生意模式往往推崇新的事物,喜歡科技帶來便利的東西,就像很有名的一首台語歌「愛拚才會贏」。是的,變革會帶來進步,帶來財富,但是風險呢?分析跟判斷的基本步驟呢?不是只有年輕人沒耐心、容易衝動會犯錯,整個社會也會被一窩蜂的熱潮帶著走。

但是AI超級有耐心,打敗世界級圍棋棋士無敵手的「電腦」AlphaGo,每天可以自己對奕幾萬盤,可以不斷的累積跟對照結果,可以下出人類之前認為不可能的棋步。這就是大數據,無與倫比的儲存容量跟處理能量,對比人類不斷喪失中的專注力跟耐心,高下立判,勝負其實已然分曉,但人類還在自尊自傲,說:「機器根本不知道勝利的喜悅,贏了有什麼意義?」

分享經濟垮了,P2P製造了無數的受害者,那不經深思、無止盡地追求自動化呢?
或者抱持人工智慧永遠比不上人類的想法呢?

布萊德彼特主演了一部《末日之戰》(2013年),是部講喪屍橫行世界,這類電影往往以特效跟驚悚取勝,但這部卻蘊含了哲學的深度。其中一幕是個以色列人告訴布萊德彼特,他們有一個高階委員會,當所有委員都投票贊成了某個決論,最後投票的那個人一定要投反對票,並積極去尋找任何支持的證據。為什麼?「因為沒有不會犯錯的人」,而且集體的迷思更會付出無比慘痛的代價,誤判的機率永遠都在。愈自以為是就越悲哀,因為那往往連彌補錯誤的機會都沒有,像柯達、像諾基亞。

「自動化+網路+虛擬世界」是一個嶄新的領域,
我們應該要不斷的自問:「萬一最糟的事情發生了呢?」

「萬一比特幣被大規模的駭了呢?」、「萬一比特幣被用作購買毒品或買兇的媒介呢?」其實這些都是發生過或正在發生的事實不是嗎?但是假借科技跟進步之名,迎合了人類的貪婪與漠視,它卻存在了這麼久。當人類著迷於網路或機器之進步,卻放棄了原則,縱容了貪婪,這是自動化最大的危機——貪婪的資本家+自閉的科學家。

「萬一整個的支付系統出現問題了呢?」最近有某家大銀行的系統整個大當機,足足花了好幾個小時,民眾才能使用網路銀行或自動提款機。之前台灣某家銀行也被駭過,還好有發現,損失有限,同樣的手法也在別的國家發生過。當大家對網路的依賴度越高,對自動化越信任,在金融上的危險性越高,系統性的風險足以變成國安問題。這世界從來沒有攻不破的城堡,也沒有不出問題的系統,但是當系統愈龐大,人類愈依賴機器,風險也跟著變大。

萬一機器真的哪天比人類厲害,人類被宰制了呢?
萬一機器真的機器脫離了我們的控制,我們卻關不掉它呢?
  • 自動化對人類社會的衝擊有多大,其實已經可以做預測了

舉例來說,10-15年內,約有30-50%的工作將會被機器取代,20-30年內或許高達60-70%,而自動化又能創造多少新的工作?很多人說數以億計,說自動化可以創造就業機會,自動化讓人類可以被解放做自己想做的事。真的是如此嗎?講話的人負責任嗎?還是一廂情願,甚至欺騙普羅大眾呢?當初共產主義提出的烏托邦,也美到讓無數人心動啊!

有關地球暖化,最近才又開了一個盛大的會議,焦點在控制增溫2°C夠了嗎?還是只能再增加1.5°C?這是一個困難的問題,為了少那0.5°C,相對所要付出的成本恐怕也高的無法想像。就像當初我們低估了地球暖化的速度跟其所造成的傷害,我們是不是也小看了AI的潛力,輕忽了對機器進化的速度跟其所可能造成的傷害?

  • 大數據加上AI可以解決很多的問題,人類不僅被取代,連隱私都被看光光

人臉辨識系統加上無所不在的監視器,電影中的情節已然成真,而科學家們沒有絲毫不安的只想更快、更好。所以政府更可以監視人民,駭客更可以讓你一夕之間一無所有,而當AI失去控制,誰知道人類會不會被當成該消滅的對象,就像電影「駭客任務」中的情節,那是絕對可能發生的。

  • 人工智慧是否會發展成無所不能的「超人工智慧」?

人工智慧(AI)技術從單一特定領域的「弱人工智慧」,發展成具備人類能力的「強人工智慧」甚至到無所不能的「超人工智慧」,是否呈指數型加速成長,並在不久的將來超越人類、顛覆世界?創新工場董事長兼首席執行官李開復認為,這樣的預測非但不科學而且「非常不負責任」。

有人以為 AI 就是「強人工智慧」,能跟人一樣有情感、思維、跨領域思考能力及創造力。「其實強人工智慧根本不存在,未來十年內發生機率是零。」李開復先生強調 AI 只是人類的工具,今天的 AI 不僅沒有感情也沒有七情六慾,本身沒有生存概念,兩者完全不同也無法相提並論。

但是我要挑戰李開復先生,你可能錯了好幾件事,因為你的迷思:「要讓AI有感情做不到?」以我心理學所擁有的知識,我不同意,這絕對做得到。但是、而且「要感情做甚麼?」感情看起來讓我們人性化、更高貴,但是也讓我們更愚蠢、更衝動、更軟弱,更多錯誤的決定。第二,機器沒有生存的概念?這個認定是怎麼來的,要內建機器裡生存的概念很難嗎?人類假如是從猴子進化來的,花了幾百萬年,而AI開始了幾年?它還在進化中不是嗎?我們真的確定機器不會演化出自我意識來嗎?電影《機械公敵》中不就在討論這件事嗎?

第三,李開復先生講話就是喜歡留伏筆「其實強人工智慧根本不存在,未來10年內發生機率是零。」那20年、30年之後呢?陷入迷思,尤其是自大的迷思是要付出很大代價的,就像張忠謀先生對政府的建言,研究自動化跟AI的未來需要各專業領域的投入,單單是資本家跟科學家可能無法跳脫自動化的迷思跟陷阱,一窩蜂地追求而忽略代價。

當我們發現機器有自我保存的概念,也有自我維持跟繁殖(複製)的能力,而我們無法控制它,那結局將如同《魔鬼終結者》或《駭客任務》中一樣的可怕,只是那時有人踩得住剎車嗎?

責任編輯:潘柏翰
核稿編輯:翁世航