《全境失控》:人工智能下的監控世代

《全境失控》:人工智能下的監控世代
Photo Credit: 《AI崩壊》劇照
我們想讓你知道的是

《全境失控》探討了當社會過度倚賴人工智能而衍生的巨大影響,當中率涉了警權過大、全面監控,甚至能操控日本總理的生命。

文:GUT(現居波蘭香港人,國際關係碩士生。喜歡探討波蘭及波羅的海三國時事及政治,熱愛電影、旅遊及足球,曾於香港網媒撰寫多篇本地足球的專題。)

人工智能(AI)向來是不少導演喜歡探討的題材,由80年代列尼史葛(Ridley Scott)的《2020》(Blade Runner),史提芬史匹堡(Steven Spielberg)的《A. I. 人工智能》(A.I. Artificial Intelligence),以至於近年的《黑鏡》(Black Mirror)及 《觸不到的她》(Her)都透過人工智能去展示由人類製造出來的智慧系統如何為世界帶來不同程度的改變。無論影響程度的多與少,人工智能從來都是極具爭議性的題目,年初在日本上映的科幻劇情片《全境失控》(AI崩壊)就探討了當社會過度倚賴人工智能而衍生的巨大影響,當中率涉了警權過大、全面監控,甚至能操控日本總理的生命。

《全境失控》是曾經執導《22年後の告白–我是殺人犯–》的日本導演入江悠的最新作品,有別於一般節奏偏慢,需要觀眾細味劇情的日本電影,全片131分鐘的長片很快便入局,把觀眾帶進一趟思辨之旅。電影由曾主演《仁醫》的大澤隆夫主演,配合近年冒起的賀來賢人、岩田剛典及廣瀨愛麗絲,加上一眾實力派演員如松嶋菜菜子、日本影帝三浦友和以及客串演出日本首任女總理的余貴美子合演。

人工智能失控「篩選人類」

故事講述天才科學家桐生浩介(大澤隆夫 飾演)開發了人工智能系統「希望」藉此拯救患上重病的妻子(松嶋菜菜子 飾演),然而卻因當年日本政府拒絕允許人工智能作醫療用途,無奈地目送妻子離開人世。數年後,日本政府終於允許人工智能作醫療用途,成功開發「希望」的桐生將此系統在醫療界發揚光大,拯救了不少生命。與此同時,他卻毅然與女兒離開日本,把「希望」交給西村(賀來賢人 飾演)管理,告誡他別忘初心,緊記運用人工智能系統是必須「以人為本」。

來到2030年,「希望」已經成為日本醫療界不可或缺的一部分,醫生利用人類身上戴上的裝置即可對病人的健康進行分析,無論是診斷,施行手術,甚至是延長壽命,只要利用「希望」都可以得到前所未見的功效。此時,桐生由海外歸來準備接受總理表揚,但「希望」突然失控,導致全國進入混亂狀態,數以千計的人命傷亡,更密謀篩選人類,然後展開大屠殺。警察廳犯罪對策課的天才理事官櫻庭(岩田剛典 飾演)認定桐生是令「希望」失控,意圖侵略國家的恐怖分子,誓要將他逮捕。

監視國民無孔不入

《全境失控》以人工智能系統「希望」在醫療上的作用為主題,除了人類能否駕馭科技的老話題外,亦提及了不少具爭議性的社會議題,包括因人工智能系統而做成的少子高齡化問題。當科技發展取代了人類的工作,失業率因為人工智能而大大提升,製造了兩極化的民意,引發了一連串的社會運動。「希望」更收集了大量日本人的身體健康數據,甚至能夠透過系統分析,計算每個人的剩餘壽命,不自覺地為政府監控人民帶來便利。

與此同時,心懷鬼胎的副總理岸謙作(酒向芳 飾演)希望強推「日版國安法」,透過大量收集國民情報,利用「國民分類制度」去管理人民。(註:導演似乎別用心地利用此角色影射曾強推「美日安保條約」而引起大型抗爭運動的前日本總理岸信介。)另外,由日本警方犯罪對策課開發的人工智能系統「百眼」就透過數之不盡的天眼、人臉辨識,以及數據分析等科技嚴密監控及預測日本人的一舉一動。日本警方甚至透過「百眼」將自身權力極大化,只要街上任何可以連上網絡的電子產品,不論是手提電話或是行車記錄儀,日本警方都能夠透過此系統入侵它們的鏡頭及進行竊聽和拍攝,無孔不入地監視全國國民。

當權者令人不寒而慄

電影中的資深刑警合田(三浦友和 飾演)對犯罪對策課侵犯民眾私隱的行為感到非常憤怒,因此決定透過自己查案的經驗,用自己的思考與分析能力和新人刑警奥瀬(廣瀨愛麗絲 飾演)去查明事實真相。

最後,合田發現導致「希望」失控的幕後黑手是理事官櫻庭 ,櫻庭認為日本的現況岌岌可危,勞動人口短缺,出生率極低,社會上大部分都是老人和倚靠社會救濟金的人,他視自己為救世主,透過自己策劃的「希望」失控,利用人工智能大數據將人類分級,繼而殺害不事生產,需要龐大醫療費用去延續生命的人,以人類大屠殺去重新將社會資源分配,拯救日本。

當櫻庭在電影尾段以大義凜然的態度去說出這個恐佈真相時,我們可以理解到當權者務求合理化自己的強大慾望時是如何令人不寒而慄。

科技與人類——漫長思辯

入江悠導演利用此主題呈現了對日本未來感到的恐懼,將國家即將要面對的危機展示於觀眾眼前,令人感到非常沉重。此外,在高度倚賴科技的同時,我們是否忘記了運用自己的思考與分析能力,甚至有朝一日會被人工智能系統去統治人類?

當追求高科技及大數據的強大能力和便利時,我們的私隱已經一步一步被侵蝕,當權者不費吹灰之力就已經可以對人民作出全面監控。科技與人類之間的關係,從來都是一場漫長的思辯之旅,但隨著科技的進步以及在日常生活上的普及,如何保障人權與私隱,避免當權者的全面監控就更值得我們深思。

責任編輯:Alvin
核稿編輯:Alex