《洋蔥式閱讀系列—AI》:不設限地發展人工智慧,將會釀成災難

《洋蔥式閱讀系列—AI》:不設限地發展人工智慧,將會釀成災難
Photo Credit: Reuters / 達志影像

我們想讓你知道的是

中國與其他國家的行徑,在在說明了開發人工智慧須注重倫理的重要性。過去短短兩年內,就有許多人致力於探索有倫理的AI。許多組織都秉持著此信念:不設限地發展AI將會釀成災難。

文:范雪萊、馬修.泰勒

系統偏見只是AI在社會中可能被誤用的其中一個例子。另一個例子則是侵犯隱私。

被系統自動標註在令人尷尬的臉書貼文中,是相對無關緊要的例子。但在專制社會中,逐漸浮上檯面的故事就更加令人不安了──獨裁政府欣然使用臉部辨識技術來追蹤公民的動向。中國最大的人工智慧企業商湯科技(SenseTime)最近公開表示,監控事業占了該企業總業務量的三分之一。

這間公司開發的軟體可即時識別與分辨監視影片中的移動物體,提供鏡頭所捕捉到的每個人的資訊:他們的性別、穿什麼顏色的衣服、是兒童還是成人。

若把這些個人資料儲存進商湯科技的系統中,AI甚至能拼湊出個別身分。預計到2030年,中國的中央政府會投入大量資金打造價值約1500億美元的人工智慧產業,其中大部分用於強化國內安全。

政府利用AI來處理1.7億個監視攝影機所蒐集到的影像,中國已能對不守規矩的行人自動祭出懲罰,或辨識逃犯。

洋蔥式閱讀!:AI(P081)_圖片A
© Reuters / Thomas Peter
(A)這套商湯科技系統的監視介面可監控北京一間商店的顧客行為。它涵蓋了商店的多個入口與位置,即時更新訪客數量、在每個位置停留了多少時間,以及訪客的移動模式。
洋蔥式閱讀!:AI(P081)_圖片B
© Reuters / Thomas Peter
(B)商湯科技的系統能解析安裝在街道與各個角落的監視攝影機所蒐集到的資料,並識別行人的年齡和性別等細部資訊。這套軟體同樣也能辨識車輛的資訊,包含顏色、品牌與型號。

使用人工智慧的監視系統目前能執行到什麼程度的監控──從前述案例還只看得出一點端倪。2014年,中國國務院公布,要在2020年前強制推行社會信用體系計畫。

此系統會追蹤民眾的日常生活行為,再用這些數據去判斷公民的可信度,也就是他們遵從政府價值觀的程度。

根據監控資料,公民會得到一份公開的分數,這個數值會決定他們能獲得多少抵押貸款、小孩可就讀哪所學校、是否有權利旅行,或是會被限制網速的程度。這套計畫很接近亞馬遜的顧客追蹤系統,

但它卻有令人膽寒的歐威爾式發展:社會信用體系將建立終生與公民形影不離的調查報告,而非用來加強購物體驗的個人檔案。

不幸的是,若這樣的制度有利於中國政府,其他國家可能會起而效尤。

正如其政策所述,中國希望「打造持續表揚誠信的輿論環境」,這無疑是所有專制政府的共同想法。

如果社會全面部署人工智慧,那麼後續民眾的隱私或言論自由會受到多大的侵蝕?

洋蔥式閱讀!:AI(P082)_圖片A
©Reuters / Kim Kyung-Hoon
(A)據估計中國有2億個監視攝影機。人工智慧的加入有助於建立社會信用體系:按照公民的行為對其評分,讓中國邁向「演算法治理」的未來。
洋蔥式閱讀!:AI(P082)_圖片B
©Andrea Pistolesi / GettyImages
(B)數百個攝影機不斷監控著香港重慶大廈,以防堵危險或非法行為。全面的監控系統讓進出建築物的人在鏡頭下幾乎一覽無遺。
未命名
©Eye in the Sky: Real-time Drone Surveillance System (DSS) for Violent Individuals Identification using ScatterNet Hybrid Deep Learning Network, by Amarjot Singh, Devendra Patil and S. N. Omkar
(C)結合深度學習與電腦視覺的無人機監控系統可根據肢體行為,偵測出公共空間裡的暴力行徑。此監控設備為一套即時系統。

並非只有專制社會才會用人工智慧來進行監控。最近有新聞指出,亞馬遜發表了一款能在單一影像裡追蹤上百人的工具,且已開始被美國警方採用。亞馬遜與美國奧勒岡州華盛頓郡(Washington County)合作開發一款手機程式,執法單位能用它來掃描圖像,與該郡的臉部辨識資料庫進行比對,基本上就是把智慧型手機變成一台監控裝置。

最令人不安的是,這一切都是悄悄進行的,未有太多的辯論探討這項技術會不會侵犯人權或導致社會不公──尤其是對邊緣群體來說。

中國與其他國家的行徑,在在說明了開發人工智慧須注重倫理的重要性。過去短短兩年內,就有許多人致力於探索有倫理的AI。OpenAI、Google DeepMind的倫理與社會研究單位、AI技術產業聯盟夥伴、英國的資料倫理與創新中心、卡內基美隆大學的AI倫理研究中心都敦促工程師在持續投入AI研究時,要優先考量倫理問題。

這些組織都秉持著此信念:不設限地發展AI將會釀成災難。

未命名
©Gianluca Mauro – AI Academy
(A)從這些圖表可看出學術界中的AI研究速度與產量都在顯著成長。2018年,2000多名AI研究人員簽署了請願書,要求抵制一本備受矚目、新的付費期刊,為的就是要保持AI研究的透明性。

2017年,有一份特別針對在性能變得更強且更加無所不在的情況下,人工智慧的潛在惡意使用方式的報告──由來自學界、民間團體與產業界20多名共同作者所發表。報告中列舉了一些恐怖的例子:一輛系統異常的自駕車可能會刻意撞向人群,或被狹持來運送爆裂物;藉著惡意軟體影響採用AI技術的大腦或心律調節器,可能被用來執行遠端暗殺行動;或者,罪犯也可以使用臉部或聲音模擬技術,針對特定對象進行詐騙。

此報告呼籲人工智慧研究人員在他們開發的技術中建立防護措施,同時要更公開討論潛在的安全與防護問題。

出人意料之外的是,這份報告甚至建議研究人員不應公開發表某些想法或應用方式。多數的研究人員樂見開放政策,也會在部落格上發表他們的研究成果,並將他們的程式碼開源(open–source)。人工智慧領域的許多人相信,與其祕密開發可能後患無窮的AI程式,倒不如公開它的存在,讓大家於潛在的濫用行為發生前就有所警覺。

事實上,Google就用這個方式為他們的語音模擬程式「語音雙攻技術」(Duplex)辯護:Google公開了具潛在破壞性的AI程式,以邀請社會大眾批評指教應如何管控此技術的使用。

書籍介紹

《洋蔥式閱讀!當代關鍵議題系列:人工智慧會不會取代人類?》,臉譜出版
.透過以上連結購書,《關鍵評論網》由此所得將全數捐贈聯合勸募

作者:范雪萊、馬修.泰勒
譯者:余韋達

洋蔥式分層閱讀,按內容深淺階梯式排版──依個人閱讀喜好,自由跳接、由簡至繁,秒懂當代不可不知的世界議題。

  • 本系列入圍英國圖書設計與製作獎(British Book Design & Production Awards)
  • 大量近期時事、趨勢照片,搭配詳實解說,輔助讀者慎思明辨重要議題
  • 從最大字級一眼抓出議題關鍵字;到次大字級重點式釐清觀念;亦可細讀小字、深度理解當代必知的議題內涵

參與公民社會與政治思辨必懂的基礎知識:民主從哪裡來?現在出現了什麼問題?未來又將怎麼發展?

getImage_(1)
Photo Credit:臉譜出版

責任編輯:朱家儀
核稿編輯:翁世航


猜你喜歡


如何喚起全民「數位韌性」意識?《全球串連早安新聞》專訪台灣網路資訊中心,從國家、企業、民眾三大構面提供建議方案

如何喚起全民「數位韌性」意識?《全球串連早安新聞》專訪台灣網路資訊中心,從國家、企業、民眾三大構面提供建議方案

我們想讓你知道的是

全球局勢迅速改變,數位韌性越顯重要,從個人、企業乃至於國家,如何保持數位主動性防禦,即時修復受損,甚至從被攻擊中成長?台灣網路資訊中心執行長黃勝雄,與我們分享他的觀點。

收聽完整訪談

美中科技戰吹響關稅壁壘號角,接著新冠變種病毒造成塞港、斷鏈,再到俄烏戰爭加劇能源、通膨問題,以及近期部分地區緊張的政治關係。各種大環境衍生的灰犀牛(gray rhino)風險,凸顯國家政策乃至於企業對策在數位科技扮演要角,如果能加強「數位韌性」(Digital Resilience)累積籌碼,將更有餘裕面對未來各種政經事件的衝擊。

不過究竟數位韌性的概念是什麼?甫成立的數位發展部部長唐鳳指出,「韌性指的是在任何時候遭受到不利的影響,透過完善機制的即時應變並快速恢復;甚至從被攻擊的經驗中學習、強化自身體質」。另外,我們採訪到台灣網路資訊中心執行長黃勝雄,他用更好懂的概念譬喻,電腦備份以前靠人力執行,可能有資料遺失或備份不完全風險;但現在透過自動備援或容錯機制,等於強化電腦的韌性之後,一旦當機就會自動把資料存放到別的系統,讓業務保持可持續性及順暢性。

台灣數位基礎建設程度名列前茅,但是連帶的資安攻擊也不少

了解數位韌性的內涵之後,我們接著要問,在強化韌性的反應能力之前,台灣的數位化基礎建設究竟是否到位?

根據台灣網路資訊中心公布的2022年台灣網路報告,顯示台灣網路使用率與相關應用服務逐年成長;瑞士洛桑管理學院(IMD)公布的2021年世界數位競爭力評比,台灣名列第八名,領先東亞其他鄰國如中國、日本、南韓。至於企業方面,星展集團公布的企業數位化準備程度調查,台灣有高達95%的中大企業已制訂數位轉型策略,位居領先群。

shutterstock_680075014
Photo Credit: Shutter Stock

也因為隨基礎建設聯網程度越高、數位化越普及,電腦系統遭受駭客攻擊或網路病毒感染的機率也越高。黃勝雄以台灣為例,台灣資訊系統平均一年收到的攻擊通報,累計高達150萬筆,舉凡像是前陣子美國眾議院議長裴洛西訪台,超商門市電視螢幕出現不雅字眼,以及外交部、國防部網站遭入侵,就是資訊系統被攻擊的明顯作為。

台灣在數位韌性做了哪些努力?主動式防禦讓敵方承受昂貴代價

既然台灣經常遭受外來駭客攻擊,多年來對資訊安全議題越來越重視,不過在提倡數位韌性的時候,比起資安防禦又延伸出哪些新的思考面向?黃勝雄指出,「如果考慮到國家的數位韌性,最重要關注兩種狀態,一個是極端的被攻擊情境、第二是面對戰爭的緊急狀况。」

JOHN7930
Photo Credit: The News Lens Brand Studio
台灣網路資訊中心黃勝雄執行長

第一項極端被攻擊狀態,黃勝雄把網路流量耐受力,比喻為河道疏浚工程。假設一個工程能承受50年河川淹水情況,假設某一年突然河水大暴漲,能否有別條河道能疏浚;同理,資訊系統在平常也要針對極端的被攻擊狀况,列出多個腳本進行演練,在日後遇到突發攻擊,才能有配套措施加以應對。

第二種則是當發生戰爭時,台灣能否持續保持數位基礎建設的韌性。例如當我國網路基站遭受攻擊時,是否能夠即時運用海底纜線或低軌衛星,來保持對外通訊的暢通。因此在尚未開戰之前,台灣更該盤點戰爭情况超前部署,黃勝雄提出一個概念「主動式防禦」,也就是當敵方在尚未攻擊前,我們可以預先做足完整的準備方案;當敵人開始攻擊時,我們的數位建設就能發揮韌性實力,迫使對方在啟動攻擊之後,也要付出相對昂貴的代價,使潛在的攻擊者降低攻擊的意願。

從國家、企業、到個人層次,分別如何強勁「數韌力」?

如果平時就要培養數位韌性思維,甚至展開具體防禦行動,從國家政策、企業策略、乃至於個人行為,可以怎麼培養數位韌性力?黃勝雄針對這三大構面,分別論述當前台灣在數位韌性主題有哪些實際作為。

國家政策方面,近期數位發展部的成立,就是把資安核心業務加以整合起來,進行跨部會橫向溝通,有助垂直施展資安政策,協助各部會在依循資通安全管理法的架構之下,更能全面落實資通安全政策。另一方面,針對國際資訊戰接二連三的攻擊,我國政府除了對國內民衆宣導,黃勝雄也建議可以向外多對國際社群進行宣導,展示台灣資安政策的積極作為,號召更多民主陣營的夥伴,一起對抗無所不在的資訊烏賊戰。

至於從企業的角度來看,台灣超過九成以上是中小企業,除了運用有限資源打造基礎防線來抵擋網路攻擊,黃勝雄特別提到,台灣網路資訊中心負責維運的「台灣電腦網路危機處理暨協調中心」可以給民間企業提供免費、最新的網路樣態這類資訊,或是協助引薦公私部門的資源給一般企業,協助企業主更快瞭解當前的攻擊手法,進而在事前、事中、事後做好資安防護。

shutterstock_1823071271
Photo Credit: Shutter Stock

最後構面是民眾的個人層次,如何在日常生活培養數位素養,提升資訊解讀的能力?黃勝雄點出一個有趣現象,他說,「我們對資訊的過濾機制,不是來自資訊本身,而是來自傳送資訊的人,也就是你對他/她的信賴程度。」換言之,要對親友在群組傳送的訊息應保有更高警覺性,培養媒體識讀能力,或是從生活小細節,確保3C科技產品帳密不會輕易被盜用,自然讓想要癱瘓系統的攻擊者,同樣要付出較高的代價而不能得逞。

數位韌性的建構,與數位轉型一樣,它是階段性持續優化的過程而非結果,因此不會有停止的一天。黃勝雄最後強調,目前台灣在資訊技術及法律規範會持續擬定更完善的整合方案,並鼓勵中小企業、一般大眾對資安議題,在有限的範圍內,經常瞭解外面的世界發生哪些事情,不僅能免於成為資訊戰的受害者,同時持續充沛自我數位素養,每個人都可以為數位韌性工程做出貢獻。

國科會科技辦公室 廣告


猜你喜歡