《自駕車革命》:無人車該如何決定,是要害死路邊的兩個寶寶還是車上五個成人乘客?

《自駕車革命》:無人車該如何決定,是要害死路邊的兩個寶寶還是車上五個成人乘客?
Photo Credit:DepositPhotos
我們想讓你知道的是

重要的問題並不是無人駕駛車輛是不是「道德的」,真正的道德難題在於定義在車禍前的邏輯應該是什麼樣子。

唸給你聽
powered by Cyberon

文:霍德.利普森(Hod Lipson)、梅爾芭.柯曼(Melba Kurman)

隱私

無人駕駛車輛必須要解決的另一項法規挑戰是乘客的隱私權,智慧手機和社群媒體已經為隱私帶來了全新面貌的難題,無人駕駛車只會同樣棘手。消費者權益把關團體一直努力保護人們不受政府監視及企業資料掮客妨害,理想上來說,他們未來也會將保護傘展開到無人駕駛車輛。

無人駕駛車會有相當獨特的隱私權問題,汽車不斷移動,一旦安裝上數個高解析度攝影機再加上超乎人類能力的感知及感應能力,就會變身為無所不在的機器間諜,濫用的潛在風險相當高。無人駕駛車可以拍攝乘客的照片,或者走在路邊的行人,然後將這些照片輸入臉部辨識軟體,接著軟體可以將更新結果交給政府,告知發現了哪些人。比較沒那麼邪惡、但更為惱人的情況是,汽車軟體會形容乘客的衣著、旅行模式或其他習慣,這些資料會交給企業的行銷部門,這些公司熱切想探知各個年齡層的流行趨勢為何,或者人們喜歡去哪裏吃午餐。

行人以及坐在無人駕駛車輛中的乘客都需要某種隱私保護,或至少是透明公開的執行原則,每個擁有無人駕駛車輛的人都應該知道資料如何蒐集,以及誰能夠取得,如果製造無人駕駛車輛軟體的公司打算將顧客資料賣給第三方掮客,顧客應該有權利決定是否希望個人資料被利用。

如果個人移動性的未來是隨叫隨到的無人駕駛車艙,管理車艙車隊的公司就需要在嚴格的資料隱私守則下運作,考慮到他們會接觸到高流量的乘客及車程,無人駕駛計程車將成為資料掮客、侵入式政府監視以及一般愛好窺探者的潛在金礦。乘客應該要能夠決定是否願意容許無人駕駛計程車蒐集並分享車程的資料,或許有些計程車乘客會同意分享全部的資料,只要他們能夠換取計程車費折扣。

隱私還牽涉到另一種安全問題,那就是軟體漏洞。所有軟體作業系統都有弱點,簡單的功能失靈及惡意駭入都會造成傷害。就像我們在前面章節討論過的,硬體和軟體系統都有潛在的安全漏洞,車輛的控制器區域網路對可能存在的駭客而言是毫無防衛的侵入點,從軟體而言,無人駕駛車輛的作業系統需要設計出額外的備用系統,這樣萬一出現了可靠性的問題,備用系統就能很快接掌方向盤。

如果車輛仰賴外來資料,那麼資料傳輸的延遲(不管是惡意或善意)就可能會危害安全。GPS詐欺可能會成為新型態的惡意破壞,HD數位地圖也可能是目標,提供地圖更新的資料管道必須安全,資料來源也必須是經過授權且認證的。車輛的路經規畫與交通預測軟體會不斷將車輛目的地的資料送給更大的交通系統,以隨時了解情況,同時也成為資安入侵的另一個潛在目標。

道德

資料隱私和安全是無人駕駛車輛必須處理的一種道德難題,另一個就是車輛如何應對緊急狀況。當面對一個重大災難情況時,無人駕駛車輛利用資料和軟體,而非人類直覺,來計算最佳反應。人類程式設計師為了要將車輛設計成能夠適當反應,必須做出困難的決定,量化人命與建築物的價值。

如果是軟體在駕駛車輛,發生車禍時,就再也不必由人類駕駛來進行可怕的計算,決定「該讓誰死」,這個決定的邏輯會事先就由人類在設計車輛軟體時做好決定。無人駕駛車軟體的設計會計算出如何在意外中做出反應,能夠在造成最少連帶損傷的情況下有最好的結果。但是,為了製造這樣的軟體,我們這個社會必須先定義何謂「最好」,而且在過程中要謹慎提出我們如何評估人命與建物的價值。

要將人命和建物量化成價值會引發令人不安的問題,包括這些價值應該是什麼、又該由誰來設定。車內的乘客會有一個價值、行人也是,車禍可能會帶來的結果,例如建物受損或車輛損壞,都要經過量化。如果無人駕駛車輛的程式設計在遇到意外時,其一般目標是「減少對建物的破壞」,車輛就不清楚究竟這樣反應看起來應該像什麼。

我們在對群眾演講時,講到無人駕駛車的價值和潛在影響,不免會在後面有某個人舉起手來問了像這樣的問題:「如果遇到生死攸關的狀況,無人駕駛車該如何決定,是要害死路邊的兩個寶寶還是車上全部五個成人乘客?」這個道德難題或許會以不同的情境出現,不過核心問題其實還是老樣子,就是那個哲學課學生在課堂上討論了幾十年的知名火車問題(Trolley Problem)。

火車問題是在1967年由英國哲學家菲莉帕.富特(Philippa Foot)提出,描出了一個道德難題:「一列在路面行駛的火車駕駛只能從一道窄軌切換到另一道,此時有五位工人在一邊軌道工作,還有一個人在另一邊,不管火車在哪邊軌道,一定會殺死在軌道上的人。」多數讀者會做出簡單的功利計算,認為五條人命比一條值錢,覺得這道問題不需多花腦力。但是後來火車問題的案例又變得更加複雜,加入其他病態的抉擇,最後讓人陷入矛盾的兩難。

火車問題並不是只有無人駕駛車才會碰到,最近在紐約上州綺色佳(Ithaca)的市區,我們目睹了火車問題的悲劇示範。一名卡車司機沿著陡峭的下坡駕駛進入綺色佳忙碌的市區,此時發現他的煞車失靈了,他被迫要做出痛苦的抉擇,要將這台重達兩噸、致命的失控卡車往哪邊撞,結果駕駛選擇將卡車轉向駛離一群建築工人,將卡車對準附近的咖啡店,意外害死了27歲的亞曼達.布許(Amanda Bush),這位年輕媽媽在夏日周五下午在這裏當酒保多賺點錢。

讓一位研究者寫下道德守則會出現一個常見的擔憂:「自駕車在車禍中一個主要的弱點在於,人類駕駛可以即時決定怎麼撞車,但自駕車的撞車決定則是由程式設計師事先定義的。」像這樣的論點讓我們想質疑,為什麼人類駕駛「即時決定怎麼撞車」是可以接受的,但如果車輛的撞車反應是「由程式設計師事先定義的」卻成為了道德問題?一來,比起喝醉、自私或疲勞的人類駕駛,無人駕駛車輛其實能夠進行更為理性而迅速的風險/利益分析;二來,無人駕駛車輛擁有360度的感應感知能提供資訊。

在我們看來,無人駕駛車輛所謂的「道德的」問題並非是因為駕駛牽涉了不斷進行一系列計算,讓我們權衡風險與價值,所謂的道德問題根植於一項事實,也就是這些計算會由冰冷的人工智慧精確執行。重要的問題並不是無人駕駛車輛是不是「道德的」,真正的道德難題在於定義在車禍前的邏輯應該是什麼樣子。

每位人類駕駛在面對危險時都會進行某種風險/利益計算,一個人可能會認為減少損害最好的方法就是盡量不傷害駕駛的這類反應,就算這個決定代表車輛會撞倒好幾個人;另一個人可能的反應則是將方向盤打偏,遠離靠近路邊的行人,即使代價是撞爛整輛車並害死自己。

大部分有經驗的人類駕駛都知道在開車時,他們就是連續做一連串決定,給不同類型的生命與建物不同的價值。這個過程通常在潛意識發生,我們當中的某人不只一次必須要上演一次緊急演習,避免撞到一個「小」生命,例如奔跑著穿越馬路的松鼠。我的理性大腦不會問我自己這樣轉彎「值得嗎」,但是我選擇轉彎避免撞上松鼠,代表我計算過了並決定松鼠生命的價值值得我冒一點小風險,儘管在轉彎時可能會害我的車輛失控導致車禍。

我的風險計算可以變得非常複雜。如果我的車輛後座有三個小孩,或許就會選擇不要轉彎,讓松鼠自己碰碰運氣;如果路面結冰又擠滿了行人,我的道德計算很可能會讓車內及車外的人命價值高過松鼠的命,這樣我就會選擇不要轉彎。我的計算還可以變得更複雜,如果這個假設中的松鼠換成了狗,然後是個拄著拐杖的老人等等。

那些從來沒遭遇過嚴重交通意外的幸運兒不必戰戰兢兢地公開談論,在面對一場無可避免的交通意外時為何做了那樣的決定。無人駕駛車輛讓人感到驚恐,因為我們必須公開討論這樣的計算,更困難的是,無人駕駛車會需要我們這個社會同意一套統一的道德守則,能夠引導人工智慧軟體在緊急狀況時的決策過程。

無人駕駛車輛需要我們人類同意一套文化道德準則,引導自駕車在緊急狀況中的決策過程。在一個公平的民主社會裏,這套準則的標準會由一般大眾討論出共識,並由製造無人駕駛車輛的公司遵守,悲劇的運算不只應該有大眾的同意,如果發生災難,車輛的災難應對「守則」應該要公開、透明,而且在意外後可經得起認證。就像是在空難後航空官員所採取的行動,在車禍過後,無人駕駛車的導航軟體就是「黑盒子」,應該要能夠讓保險調查員和執法官員檢視,這樣他們就可以分析車輛的軟體到底採取了哪些步驟。

隨著這些道德準則寫成了法律,結果就會是新類型的道德過失與罪行。想像一下,如果分析車輛的黑盒子後發現,無人駕駛車輛公司賣出的車輛中含有非法的「守護軟體」,設計是只有車內的人才算價值高,其他車輛內的人價值則是零;或者想像一下,在車禍之後,車輛的黑盒子揭露出某個判斷失誤的技師對車輛軟體動了手腳,好減少對車輛的實質傷害,卻不管其他人要付出的代價。

自駕車將會挑戰我們如何定義隱私及責任,也會將駕駛從一項由人類直覺引導的活動轉化為由資料引導,城市的地理樣貌會再次經歷一波改變,因為停車場消失了,由資料驅動的車子也會計畫出最佳路線,舒緩了開車上路的痛苦。當無人駕駛車成為常態,自動化交通運輸能讓我們對居住地點有了新選擇,對工作方式也是,有些工作會消失,新型工作會崛起,因為將人類駕駛從成本算式中移除,才會出現新型的商業模式。

書籍介紹

本文摘錄自《自駕車革命:改變人類生活、顛覆社會樣貌的科技創新》,經濟新潮社
*透過以上連結購書,《關鍵評論網》由此所得將全數捐贈兒福聯盟

作者:霍德.利普森(Hod Lipson)、梅爾芭.柯曼(Melba Kurman)
譯者:徐立妍

從自動輔助駕駛到完全無人駕駛
圖解・案例・商機・生活場景・徹底解析
數位轉型再進化,產業整合新商機,
當人類把生命交給感測器、人工智慧和車聯網的那一天來臨。

近年來,自動駕駛成為各大車廠、科技巨頭競逐的領域,從半自駕(先進輔助駕駛)到全自駕(完全無人駕駛),應用的科技包括傳感技術、機器人學、機器知覺、機器學習、人工智慧、演算法和智慧型運輸系統等等,原本在學術領域的知識逐漸實用化、商品化。

從提供人類駕駛車道偏移警示、防撞預警等不同功能的半自駕車,到沒有方向盤、油門與煞車的全自駕車,自動駕駛牽動相關產業鏈和社會系統,也讓交通成為一種自動化、隨叫隨到的服務,顛覆我們的移動方式,也改變我們對時間與空間的認知。

自駕車的好處是能減少車禍、避免塞車、降低空氣汙染,老人與殘障者也會獲得全新的移動能力。不過,任何的新創科技都有黑暗面,自駕車也不例外,像是造成公共運輸衰退,因為人們都將受到隨叫隨到的無人駕駛座艙吸引,價錢甚至比一趟公車票還低;此外,自駕車可能也會造成職業司機失業、個人隱私不保等問題。

作者在本書中探討自駕車的發展歷史,帶領我們了解車輛如何轉變成為聰明的運輸機器人,進一步省思無人駕駛對於我們的工作、交通、運輸、製造、保險、醫療和倫理道德造成什麼衝擊,我們又該如何因應。

當人類把生命交給感測器、人工智慧和車聯網的那一天來臨時,但願我們都已經做好準備。

getImage
Photo Credit: 經濟新潮社

責任編輯:翁世航
核稿編輯:潘柏翰

4月主題徵文
或許你會想看
更多『評論』文章 更多『科學』文章 更多『精選書摘』文章
Loader