亞馬遜圖像分析系統Rekognition的「點錯相」爭議

亞馬遜圖像分析系統Rekognition的「點錯相」爭議
Photo Credit: Ina Fassbender / picture-alliance / dpa / AP Images / 達志影像

我們想讓你知道的是

亞馬遜研發的Recognition系統可用作人臉辨識,然而該公司向執法部門提供此項服務,引起關注公民權益的團體擔心。

早前美國公民自由聯盟(ACLU)取得文件,發現美國有部分地方的警隊使用亞馬遜(Amazon)的圖像分析系統Amazon Rekognition,此系統透過深度學習技術辨認影像中的內容,包括物件、人臉和文字。亞馬遜曾宣傳這項於2016年底推出的服務,可供政府監控使用,警方能即時追蹤特定對象。

有見及此,ACLU聯同多個團體於今年5月發公開信給亞馬遜的行政總裁貝索斯(Jeffrey Bezos),關注Reognition帶來的潛在問題,並呼籲該公司停止協助政府監控。其後亞馬遜的股東、員工,以及多位研究科技發展的亦學者分別聯署,向貝索斯表達對Rekognition的關注。

28位國會議員曾被捕?

除了私隱問題外,系統出錯可能引致的不公亦受關注,特別是演算法面對不同膚色的人時出錯機率有別,或會不成比例地使少數族群受到影響。

過往已有多項研究顯示,臉部識別技術用在成年白人男性最準確,但如果用在其他膚色、性別及年齡的人身上,犯錯比率就會明顯堵加。ACLU日前公開的一項測試結果,同樣揭示這個問題。

利用亞馬遜提供的服務,ACLU將535位美國國會議員(100位參議員及435位眾議員)的照片,跟一個被捕疑犯大頭照資料庫作對比,結果發現有28人的頭像被Rekognition誤判為「吻合」。

false_matches_graphic_1
圖片來源︰ACLU

用來對比的資率庫源自公開的被捕照片,總共有25,000張。ACLU提到,任何人都可以付費使用亞馬遜的服務,對比照部臉片,而他們整個測試只需要花費12.23美元。

雖然整個國會有色人種的議員只佔20%,但被錯誤配對的28位議員當中,則有高達39%為有色人種,比例高出近一倍。這呼應了ALCU等團體所發的公開信中的憂慮。

測試門檻太低?

亞馬遜回應這項調查時質疑,ACLU在測試時使用80%可信度門檻——這是Rekognition系統用來判斷是否吻合的參數,可以按需要調整高低——對於辨別人臉並不足夠。該公司在聲明中提到,當因執法需要而使用臉部識別技術時,他們會建議用戶把門檻設定為95%或以上。

ACLU反駁指Rekognition的預設門檻為80%,他們測試中使用預設設定。而且亞馬遜網站上介紹Rekognition的頁面中,介紹臉部識別的例子也是用80%這個門檻。

Screenshot_2018-07-28_Amazon_Rekognition
亞馬遜網站截圖(archive.is備份網站

加州大學柏克萊分校的電腦科學家高路(Joshua Kroll)則提醒,測試所用的國會議員照片比Rekognition在實際應用時遇到的圖像容易處理。高路亦獨立驗證了ACLU的測試結果,他說︰「就我所知,這是此項技術最容易處理的情況。雖然我們未作測試,但我預計在現場環境中它的表現會更差,因為你未必見到目標人物的正面、缺乏良好光線、存在障礙物、人們拿着或戴上遮掩他們臉部的東西。」

有人把關?

亞馬遜的聲明又表示,在真實使用時,Rekognition幾乎只用來協助收窄範圍,並由人類以自己的判斷檢視。然而佐治城大學私隱及科技中心的比度也( Alvaro Bedoya)指,現實中被錯誤辨認為疑犯的人最少會受到當局調查,認為宣稱沒有後果並不合理。

此外,電子私隱資訊中心的史葛(Jeramie Scott)更認為不應認為人類對系統有足夠制衡︰「通常一但有技術可用,人們就會過份依賴,像該技術不會犯錯似的。」

2009年,三藩市警方因為自動識別車牌的系統出錯,誤以為47歲女子格連(Denise Green)駕駛被盜車輛。警員要求她步出車外,一名警員以槍指住她,另一警員為她戴上手扣並命令她跪下。幸好格連在20分鐘後獲釋,未有造成傷亡。只要警員親自看一眼車牌,或者留意車的品牌、型號或顏色,就不會出錯,然而他們選擇相信系統。

即使100%準確仍有問題

史葛亦提到,即使臉部識別技術不會出錯,讓執法部門使用這項技術仍然值得關注︰「臉部識別技術令人無法維持匿名,它增加執法部門監控民眾的能力——即使是沒有涉嫌犯罪的人——並會影響美國憲法身一修正案所保護的權利及活動。我們在此極力避免的是大規模監控。」

AP_130731135962
Photo Credit: Mark Lennihan / AP Photo / 達志影像

被錯誤辨認的眾議員高美斯(Jimmy Gomez)及路易斯(John Lewis)已去信貝索斯,表示關注Rekognition對公民自由的影響。而同屬該28位國會議員的參議員馬基(Edward Markey)及眾議員古鐵雷斯(Luis Gutiérrez)與德索尼爾(Mark DeSaulnier),亦一同發信要求貝索斯回答七條關於Rekognition的問題,包括亞馬遜測試臉部識別技術的細節、使用此項技術的執法部門、有否保障美國公民的私隱權等等。

相關文章︰

資料來源︰


猜你喜歡


資料怎麼自己動?公部門的數位轉型,「數位治理」讓報稅、補助申請更簡單!

資料怎麼自己動?公部門的數位轉型,「數位治理」讓報稅、補助申請更簡單!
Photo Credit:The News Lens Brand Studio

我們想讓你知道的是

隨著數位發展部的正式成立,臺灣公部門的數位轉型也邁入全新階段。我們透過專訪數位發展部數位政府司的王誠明司長,帶大家認識臺灣「數位治理」發展的前世今生,以及如何應用「MyData」串聯、應用既有資料,改變我們的日常生活!

資通訊科技的日新月異驅動社會飛速發展,無論日常購物、娛樂消遣甚至是人際互動,網路與各式數位服務幾乎滿足了現代人生活過半的需求。在這樣的背景之下,不只企業緊緊跟隨數位轉型浪潮,積極開展創新技術與服務,政府部門也開始導入資料及數據分析技術,善用「數位治理」驅動公共服務模式的變革,重塑民眾對於政府服務的想像。未來數位治理不只是要讓民眾申請資料更簡便,更希望能透過資料讓企業創新,同時也做到提供客製化個人服務的目標。

從資料應用發展創新服務,結合數位科技打造公私協力的智慧政府

我們一定都能有感數位治理帶來的改變,在2021年面對新冠疫情時推出的口罩供需資訊平台、健保快易通APP、健康存摺等的整合應用服務,我們多多少少都有用過。前者透過釋出口罩庫存量及特約藥局等開放資料,促成公部門與民間社群的協力合作,將「資料」轉化成簡易使用、更新即時的便民服務,讓大家知道可以到哪裡去買口罩;後者則整合臺灣健保系統,透過數位技術將資料公開及串聯,打造創新健康平台,不只個人就醫、查詢更加方便,也奠定了後續數位醫療服務的發展基礎。

不只是民眾有感,從國際評比的角度來看,在2021年早稻田大學與國際資訊長協會(International Academy of CIO, IAC)合作辦理的世界各國政府數位評比中,臺灣在全球64個主要經濟體中排名第10名,較2020年進步1名,在整體國際中表現也算前段班。

02
Photo Credit:The News Lens Brand Studio
數位發展部數位政府司司長王誠明。

那政府是從什麼時候開始數位化的呢?源頭可以追溯到1998年時推動的「電子化政府計畫」。長期投身電子化政府計畫的規劃與推動的數位發展部數位政府司司長王誠明回憶道:

「那時政府發展許多大型網路、服務資訊上網等基礎建設,並將戶政、地政等民生領域的人工服務流程優化為電子化的線上服務,過程累積了不少可應用的資料庫及大型資訊系統;到了2017年,安全傳輸、資訊分析整合等技術也漸漸成熟,國內外都意識到『資料』是提供服務的重要元素,於是政府便開始更著重於資料的分析與應用。」

從那時起,政府秉持著讓民眾參與政府運作的開放精神,展開「服務型智慧政府推動計畫」,以民眾關切議題的數位服務為優先項目,透過開放高應用價值資料與即時分析技術,提供民間資料應用的空間,或是由機關主動開發相關服務,不只對外增強政府的公共服務能力,對內也改善民主治理的運作機制,回應整體社會的數位化需求。

資料運用思維轉變:「資料治理」作為政策發展方針

王誠明司長特別強調,雖然電子化政府與智慧化政府乍看都是透過電子產品及數位技術加速政府服務,但在執行思維上卻有根本性的差別。傳統的政府服務多半從「公共事務管理」的角度思考,例如報稅、戶政、地政等,都朝向便於管理者管理的角度去開發;但在智慧化政府的發展觀念中,政府反而會站在民眾的角度思考,利用資料開放與分析技術等方式,鼓勵公私單位開發更多數位服務。例如過去政府開放實價登錄、公車路線、空氣品質等即時資料,衍生出實價登錄地圖、台北等公車等多元應用的APP,這些都是透過資料治理來滿足民眾生活需求的最佳範例。

隨著資料治理概念的深化,臺灣Open Data的服務也逐漸成熟,甚至在英國開放知識基金會(OKFN)的開放資料國際評比中獲得世界第一的殊榮。於是2015年,國發會從「賦權」概念出發、強調資料作為精準數位服務的基礎,打造「數位服務個人化」(MyData)資料自主服務,以「民眾自主決定資料如何使用、給誰用」的核心精神,打開政府服務的里程碑。

FireShot_Capture_3744_-_個人化資料自主運用(MyData
Photo Credit:數位發展部「個人化資料自主運用(MyData)」網頁
My Data服務平台。

在過去,若民眾要到銀行辦理開戶或貸款等業務時,會因需要出示相關證明,所以得耗費許多時間往返機關與銀行辦理。如今透過MyData平台,辦理者經過不同等級的身分驗證後,就能即時將指定資料傳輸給指定機關,而且過程中民眾也可以隨時追蹤,知道資料傳到什麼地方、被誰使用;倘若資料不慎被盜用,民眾也能第一時間收到簡訊和Email通知來即時處理。

MyData平台的服務不只強化食醫住行育樂等民生領域的數位服務,王誠明司長也說,當中央與地方整合成熟之後,也希望跨足私部門,從監管力道強的金融產業開始,漸漸延伸至監管力道較弱,卻與民生息息相關的產業(如醫療),甚至期待在最終階段引入AI服務,落實資料智慧應用。舉例來說,未來民眾失業時只要告訴政府「我失業了」,MyData平台就能主動查詢、分析民眾同意開放的資料,藉由資料彙整及AI分析的智慧服務,主動回饋民眾如何申請補助、提供就業輔導等個人化建議。

由內而外深化數位治理,組織再造迎擊轉型挑戰

當政府則從「資料」的角度出發,打造新型態的公共服務模式時,「資料」不只化身為政府或企業組織間最珍貴的資產,也成為一切數位服務發展根基。不過,成千上萬的資料該如何妥善的管理、安全的傳輸、合法的應用,也成為智慧化政府發展過程的關鍵課題。對此,王誠明司長也坦言,這正是政府在轉型過程中面臨的三大挑戰:機關本身思維與行事風格的轉變、跨機關間資料傳輸的法律規範適用性,以及資料本身的個資保護問題。

shutterstock_1931787956
Photo Credit: Shutterstock / 達志影像
政府數位治理的三大挑戰:機關思維的轉變、資料傳輸的交換、隱私與方便的平衡。

所以如今政府透過組織再造,成立位階更高、權責更集中的「數位發展部」,把過去可能分別是通傳會、經濟部、國發會資管處、行政院資安處在做的事情重新整合,回應這些轉型過程中跨機關、跨領域的複雜問題,讓轉型過程中無論公私部門都有可以共同討論、解決問題的夥伴。

「數位轉型其實是一個持續的過程,它不是像轉骨一樣瞬間。它是一個持續的滾動調整,根據社會需要和當下技術,讓服務做得更好。」

王誠明司長也說,正因轉型是漫長的過程,所以數位發展部的角色就是在調整過程中能靈活運作、協調合作的機關,讓無論技術、制度、法律等層面的政府服務都能與資安會緊密結合,正確導入數位治理制度,落實資安與個資保護。

持續落實、不斷提升:數位治理永無止境

最後,王誠明司長也強調,深化數位治理不只該思考如何運用數位服務提升機關效能,也包含怎麼找出社會中沒能力使用數位服務的人,並給予幫助。若要達成這樣的目標,倚靠的就不只是技術成長,還包含整體數位環境的建置。仔細觀察臺灣社會近年的轉變,就能發現不少相似的痕跡──越來越多的數位服務不只作為應用的工具,深化公共服務效率及公民參與的可能性,還能打破傳統框架,成為新興的溝通媒介,建立公私部門之間不同的協力模式;更甚至我們還能從視訊看診、健康存摺等疫情應對措施中學習,也相信未來國家再度面臨困難或風險時,在數位治理的增能之下,可以更快速的恢復,並透過完善的數位工具解決難題,從中學習並不斷的強化精進。

國科會科技辦公室 廣告


猜你喜歡