哈拉瑞:當演算法比你更了解你自己,自由民主就注定走向末路

哈拉瑞:當演算法比你更了解你自己,自由民主就注定走向末路
photo credit: De Fontenay/JDD/SIPA via AP Images/達志影像

我們想讓你知道的是

哈拉瑞:顛覆科技發展帶來的危機,甚至比核戰更大,但所有領袖都缺乏洞察力,彷彿沉迷於「鬥懷舊」的遊戲。

「人類已創造出一個複雜到連自己都不能理解的世界。」

《人類大歷史》(Sapiens)和《神人》(Homo Deus)作者哈拉瑞(Yuval Noah Harari)出席由《紐約時報》主辦的活動,大談他對人類未來的看法。

哈拉瑞表示,生物技術與科技的結合,可以迅速發展出比人類更清楚了解人類的系統和演算法:「一旦有一個外來物,比你自己更了解你,我們在過去一世紀所認識的自由民主就注定走向末路。」他說,自由民主必須因應科技時代而進步演化,否則就會崩潰。

他解釋,民主自由之所以得以發展,「是因為我們相信沒有人比我們更了解自己的想法和感受,如果出現一個比你或你母親更了解你的演算法,而你完全不明白這是什麼一回事時,所謂的自由民主,其實只不過是一場訴諸情感的木偶戲。」試想一下,如果我們的腦袋原來是個外來間諜,它不是為我們服務,而是聽命於人,而那個人能夠完全掌控我們的心思、操弄我們的情緒,知道如何激怒我們、如何令我們變得勇進、如何令我們開心。哈拉瑞說,這不是預言,今時今日已經看到這個危機,選舉與公投就是很好的例子。

新科技除了可以騎劫民主和我們對自己的理解之外,更可能成為新的歧視工具。「我們面對的,是一種由非常精準且有效率的分析評估科技而來的歧視,那是對個人的歧視,不是對某類型或某群體的歧視。」

「一家公司只要用演算法爬梳一下Facebook的個人簡介或者基因庫之類,很容易就能準確了解一個個人。這不是說因為你是一名同性戀者或猶太人,所以被歧視。這裡說的是,因為你是你,所以被歧視,而你是什麼都做不來的,因為你就是你。」

世界變得太快,但世界領袖卻不是向前望

科技革新令所有事情都急速變化,「沒有人能想像20年或30年後世界的基本面是怎麼樣,不單是地緣政治的變化,也包括勞動市場、人類需要掌握的技術,以至是家庭結構、倫理關係。也就是說,這是史上首次出現我們對於學校該要教些什麼根本毫無頭緒的情況。」「所謂『長遠』不再是數個世紀或數千年的意思,而只不過是區區20年。」

面對這樣的未來,哈拉瑞說,世界的領袖們卻仍然埋首過去,思維仍然停留在20世紀。他們管理日常政務是非常出色的,卻完全沒有好好規劃人民的未來,卻沉迷種種意識形態,左翼右翼、資本主義與社會主義的鬥爭。「他們連未來20年的勞動市場都看不透,因為他們根本不明白。」可笑的是,這樣的領袖之間彷彿還存在著「誰最懷舊的競賽」——「特朗普想回到1950年代,普京基本上是要回到沙皇年來,然後還有伊斯蘭國(IS)想回到7世紀的阿拉伯。以色列呢,她跑嬴所有人,想要回到2500年前的聖經時代。」

領袖們不濟,那麼人民呢?

一如哈拉瑞在《神人》中提到,工業革命創造出勞動階層,自動化則會造就無用階級(global useless class)誕生。未來幾十年的政治和社會發展,將會圍繞著這群人的希望和恐懼而變化。

哈拉瑞形容,我們現在正處於一個希望幻滅與困惑的時間,回首90年代,很多人以為歷史已有定論,20世紀的意識形態之戰已經由自由民主和資本主義勝出了,如今看來是何等天真。那個故事在我們這一代崩潰了,但我們對未來仍然茫無頭緒。所有科技企業、工程師、研發人員都只看著科技會為人類帶來多大好處,「萬一出事」這議題則留給歷史學家、哲學家和社會科學家來想。

他認為,在這個複雜的世界,單憑良好的價值觀已不足夠,必須要明白牽連事情的所有前因與連鎖反應。

「核戰很恐怖,沒有人想它發生,於是問題就只在於如何阻止它。但顛覆的科技發展帶來的危機更大,原因是它同時附帶美好的潛力。」人總是想利用科技不斷改善生活,但要在事前清楚了解其潛在危機卻非常困難。

相關文章:

資料來源: