AI軟體Fawkes如何透過「對抗生成網路」,反制Deepfake換臉歪風?

AI軟體Fawkes如何透過「對抗生成網路」,反制Deepfake換臉歪風?
Photo Credit: iStock

我們想讓你知道的是

雖然看似Deepfake技術因為負面新聞而廣為人知,但其實它可以應用在正面的議題上。利用Deepfake的原理「對抗生成網路」,可以幫照片加上像素等級且難以察覺的細微改變,讓臉部辨識系統無法正確認出照片中的人,保護照片隱私。

議題背景

AI的人臉辨識技術,讓需要辨識身分的數位服務更加便利,例如許多人擔憂臉書辨識照片的AI技術,會更容易洩漏個人資訊;但另一方面,有團隊正研究如何運用AI來保護照片的隱私。

根據芝加哥大學電腦科學系實驗室(SAND Lab. Security, Algorithms, Networking and Data)的研究,運用AI的一種演算法所開發的新軟體「Fawkes」,可以幫照片加上像素等級且難以察覺的細微改變,讓臉部辨識系統無法正確認出照片中的人。此篇研究於2020年8月發表在第29屆USENIX安全研討會(29th USENIX Security Symposium)。研討會由高等計算系統協會所贊助。

究竟「Fawkes」這個新軟體為什麼可以對抗臉部辨識系統,並保護照片?只要運用Fawkes就不用擔心照片洩漏隱私的問題嗎?我們邀請專家釋疑。

專家怎麼說?

國立屏東科技大學資訊管理系助理教授 許志仲

2020年9月7日

根據SAND Lab的研究,Fawkes主要是透過「對抗生成網路」(Generative adversarial nets,GANs)的延伸技術,例如對抗攻擊(Adversarial attack),或是擾動(Perturbation)的技術(ref.1),來欺騙目前已知的各種人臉辨識系統。

上述兩種技術的目標都是希望可以發展出一個人眼幾乎不可見,且以最小程度改變原影像的干擾訊號,將此干擾訊號加入原本圖像之後,使得已知各種運用卷積神經網路(CNN)技術(ref.註2)的人臉辨識系統,無法辨識出原本影像類別,或甚至辨識成其他不相關物件,例如將車子辨識為貓。用擾動的技術來欺騙人臉辨識系統,雖然可以保護照片隱私,但也可以欺騙其它的辨識系統,所以也帶來許多安全的隱憂。

例如自駕車視覺系統,如果擾動速限標誌的影像,變成沒有速限;或是前方有其他車子,卻因為擾動技術,把車子辨識為道路,就非常危險。而且要運用Fawkes軟體保護照片隱私,需要先由人類設定訓練Fawkes對抗雜訊的目標,可能是希望讓辨識系統無法辨識,或辨識錯誤。依據不同的目標,訓練AI的方法不同,因此,不見得可以直接應用到其他的照片上。

現在許多人工智慧系統可以快速且精準的偵測人臉,並辨識其身分,雖然可以應用在許多有封閉網路的安全系統上,例如保安系統、海關自動通關系統等,但也容易造成使用者隱私洩漏的疑慮。多數人不願意自己隱私被侵犯,希望現在的系統可以保護自己的隱私,或是讓人臉辨識系統失效,Fawkes可以做到後者。

然而人臉辨識系統的更新是日新月異,難保未來有其他新型態的人臉辨識系統可以成功辨識出這些受干擾的人臉影像,所以Fawkes對於隱私保護,其實有限。一般做人臉影像辨識相關應用的時候,研究人員或廠商要先收集照片來訓練AI,但使用者可能根本不想給自己以外的人看到照片。因此讓AI無法辨識照片,是否就能保護隱私,我覺得可以再討論。

但利用AI去對抗AI,並非真正解決之道,比較可行的方案應該是用隱私運算的方法,例如同態加密 (Homomorphic encryption)(ref.3),但因為目前電腦用隱私運算方法的速度很慢,尚未能實際應用。若培養使用者的隱私保護概念,讓大家了解使用AI相關應用下可能的隱私道德風險,較能避免照片隱私洩漏。

國立交通大學智慧科學暨綠能學院副教授 魏澤人

2020年9月11日

「Fawkes」這個像魔術一樣的技術,主要的原理在於電腦的視覺判斷方式和人類不完全一樣,目前人臉辨識的方法,很多是擷取臉部的視覺特徵後,再加以比對。Fawkes在圖片中,增加一點肉眼看不到的小擾動,讓電腦擷取的圖片特徵近似於另外一個人,用這種方式混淆人臉辨識系統。

但目前的電腦視覺利用深度學習的技術還是跟人眼辨識不一樣,之前也有研究嘗試使用和Fawkes原理類似的對抗攻擊(ref.1)技術,可以混淆電腦視覺,例如讓電腦把數字「3」錯誤的辨識成「8」。(ref.4)所以我們已經知道有視覺上看不出的小擾動,足以干擾深度學習模型。Fawkes 主要的特點,是實際驗證這個擾動的方法可以有效的同時混淆很多現有的人臉辨識系統。

相對應的,也有較能抵抗這類小擾動的電腦辨識模型。Fawkes的報告中,也有針對這類模型試驗,發現 Fawkes 還是有效果,但效果較低一點。如果針對隱私很注重的人,可以讓小擾動的幅度大一點,就能維持較佳的隱私。

長期來說,我認為除非電腦視覺的研究停滯不前,否則電腦視覺的判斷技術應該會更穩定,這類保護隱私的方式會失效。但短期內,這種方式還是能達到一定的隱私保護效果。

參考資料

  1. 對抗攻擊(Adversarial attack)或擾動(Perturbation)技術:擾動的技術是對抗攻擊的其中一種方法,但是目的都是對原本的圖像做細微且人眼無法分辨的修改,讓其它的AI辨識系統辨識錯誤或無法辨識。
  2. 關於卷積神經網路(CNN)技術的解釋歡迎參考〈深度學習卷積神經網路用於醫療診斷─專家QA
  3. 同態加密 (Homomorphic encryption):這種特殊的加密方法,可以讓多個資料不用解密就可以進入雲端計算,計算時因為不包含解密過程,所以不會被得知加密方法和機密資訊。
  4. Papernot, N., McDaniel, P., Goodfellow, I., Jha, S., Celik, Z. B., and Swami, A. (2017). “Practical black-box attacks against machine learning.”Proceedings of the 2017 ACM on Asia conference on computer and communications security (pp. 506-519).

本文經台灣科技媒體中心授權刊登,原文刊載於此

延伸閱讀

責任編輯:蕭汎如
核稿編輯:翁世航


猜你喜歡


資料怎麼自己動?公部門的數位轉型,「數位治理」讓報稅、補助申請更簡單!

資料怎麼自己動?公部門的數位轉型,「數位治理」讓報稅、補助申請更簡單!
Photo Credit:The News Lens Brand Studio

我們想讓你知道的是

隨著數位發展部的正式成立,臺灣公部門的數位轉型也邁入全新階段。我們透過專訪數位發展部數位政府司的王誠明司長,帶大家認識臺灣「數位治理」發展的前世今生,以及如何應用「MyData」串聯、應用既有資料,改變我們的日常生活!

資通訊科技的日新月異驅動社會飛速發展,無論日常購物、娛樂消遣甚至是人際互動,網路與各式數位服務幾乎滿足了現代人生活過半的需求。在這樣的背景之下,不只企業緊緊跟隨數位轉型浪潮,積極開展創新技術與服務,政府部門也開始導入資料及數據分析技術,善用「數位治理」驅動公共服務模式的變革,重塑民眾對於政府服務的想像。未來數位治理不只是要讓民眾申請資料更簡便,更希望能透過資料讓企業創新,同時也做到提供客製化個人服務的目標。

從資料應用發展創新服務,結合數位科技打造公私協力的智慧政府

我們一定都能有感數位治理帶來的改變,在2021年面對新冠疫情時推出的口罩供需資訊平台、健保快易通APP、健康存摺等的整合應用服務,我們多多少少都有用過。前者透過釋出口罩庫存量及特約藥局等開放資料,促成公部門與民間社群的協力合作,將「資料」轉化成簡易使用、更新即時的便民服務,讓大家知道可以到哪裡去買口罩;後者則整合臺灣健保系統,透過數位技術將資料公開及串聯,打造創新健康平台,不只個人就醫、查詢更加方便,也奠定了後續數位醫療服務的發展基礎。

不只是民眾有感,從國際評比的角度來看,在2021年早稻田大學與國際資訊長協會(International Academy of CIO, IAC)合作辦理的世界各國政府數位評比中,臺灣在全球64個主要經濟體中排名第10名,較2020年進步1名,在整體國際中表現也算前段班。

02
Photo Credit:The News Lens Brand Studio
數位發展部數位政府司司長王誠明。

那政府是從什麼時候開始數位化的呢?源頭可以追溯到1998年時推動的「電子化政府計畫」。長期投身電子化政府計畫的規劃與推動的數位發展部數位政府司司長王誠明回憶道:

「那時政府發展許多大型網路、服務資訊上網等基礎建設,並將戶政、地政等民生領域的人工服務流程優化為電子化的線上服務,過程累積了不少可應用的資料庫及大型資訊系統;到了2017年,安全傳輸、資訊分析整合等技術也漸漸成熟,國內外都意識到『資料』是提供服務的重要元素,於是政府便開始更著重於資料的分析與應用。」

從那時起,政府秉持著讓民眾參與政府運作的開放精神,展開「服務型智慧政府推動計畫」,以民眾關切議題的數位服務為優先項目,透過開放高應用價值資料與即時分析技術,提供民間資料應用的空間,或是由機關主動開發相關服務,不只對外增強政府的公共服務能力,對內也改善民主治理的運作機制,回應整體社會的數位化需求。

資料運用思維轉變:「資料治理」作為政策發展方針

王誠明司長特別強調,雖然電子化政府與智慧化政府乍看都是透過電子產品及數位技術加速政府服務,但在執行思維上卻有根本性的差別。傳統的政府服務多半從「公共事務管理」的角度思考,例如報稅、戶政、地政等,都朝向便於管理者管理的角度去開發;但在智慧化政府的發展觀念中,政府反而會站在民眾的角度思考,利用資料開放與分析技術等方式,鼓勵公私單位開發更多數位服務。例如過去政府開放實價登錄、公車路線、空氣品質等即時資料,衍生出實價登錄地圖、台北等公車等多元應用的APP,這些都是透過資料治理來滿足民眾生活需求的最佳範例。

隨著資料治理概念的深化,臺灣Open Data的服務也逐漸成熟,甚至在英國開放知識基金會(OKFN)的開放資料國際評比中獲得世界第一的殊榮。於是2015年,國發會從「賦權」概念出發、強調資料作為精準數位服務的基礎,打造「數位服務個人化」(MyData)資料自主服務,以「民眾自主決定資料如何使用、給誰用」的核心精神,打開政府服務的里程碑。

FireShot_Capture_3744_-_個人化資料自主運用(MyData
Photo Credit:數位發展部「個人化資料自主運用(MyData)」網頁
My Data服務平台。

在過去,若民眾要到銀行辦理開戶或貸款等業務時,會因需要出示相關證明,所以得耗費許多時間往返機關與銀行辦理。如今透過MyData平台,辦理者經過不同等級的身分驗證後,就能即時將指定資料傳輸給指定機關,而且過程中民眾也可以隨時追蹤,知道資料傳到什麼地方、被誰使用;倘若資料不慎被盜用,民眾也能第一時間收到簡訊和Email通知來即時處理。

MyData平台的服務不只強化食醫住行育樂等民生領域的數位服務,王誠明司長也說,當中央與地方整合成熟之後,也希望跨足私部門,從監管力道強的金融產業開始,漸漸延伸至監管力道較弱,卻與民生息息相關的產業(如醫療),甚至期待在最終階段引入AI服務,落實資料智慧應用。舉例來說,未來民眾失業時只要告訴政府「我失業了」,MyData平台就能主動查詢、分析民眾同意開放的資料,藉由資料彙整及AI分析的智慧服務,主動回饋民眾如何申請補助、提供就業輔導等個人化建議。

由內而外深化數位治理,組織再造迎擊轉型挑戰

當政府則從「資料」的角度出發,打造新型態的公共服務模式時,「資料」不只化身為政府或企業組織間最珍貴的資產,也成為一切數位服務發展根基。不過,成千上萬的資料該如何妥善的管理、安全的傳輸、合法的應用,也成為智慧化政府發展過程的關鍵課題。對此,王誠明司長也坦言,這正是政府在轉型過程中面臨的三大挑戰:機關本身思維與行事風格的轉變、跨機關間資料傳輸的法律規範適用性,以及資料本身的個資保護問題。

shutterstock_1931787956
Photo Credit: Shutterstock / 達志影像
政府數位治理的三大挑戰:機關思維的轉變、資料傳輸的交換、隱私與方便的平衡。

所以如今政府透過組織再造,成立位階更高、權責更集中的「數位發展部」,把過去可能分別是通傳會、經濟部、國發會資管處、行政院資安處在做的事情重新整合,回應這些轉型過程中跨機關、跨領域的複雜問題,讓轉型過程中無論公私部門都有可以共同討論、解決問題的夥伴。

「數位轉型其實是一個持續的過程,它不是像轉骨一樣瞬間。它是一個持續的滾動調整,根據社會需要和當下技術,讓服務做得更好。」

王誠明司長也說,正因轉型是漫長的過程,所以數位發展部的角色就是在調整過程中能靈活運作、協調合作的機關,讓無論技術、制度、法律等層面的政府服務都能與資安會緊密結合,正確導入數位治理制度,落實資安與個資保護。

持續落實、不斷提升:數位治理永無止境

最後,王誠明司長也強調,深化數位治理不只該思考如何運用數位服務提升機關效能,也包含怎麼找出社會中沒能力使用數位服務的人,並給予幫助。若要達成這樣的目標,倚靠的就不只是技術成長,還包含整體數位環境的建置。仔細觀察臺灣社會近年的轉變,就能發現不少相似的痕跡──越來越多的數位服務不只作為應用的工具,深化公共服務效率及公民參與的可能性,還能打破傳統框架,成為新興的溝通媒介,建立公私部門之間不同的協力模式;更甚至我們還能從視訊看診、健康存摺等疫情應對措施中學習,也相信未來國家再度面臨困難或風險時,在數位治理的增能之下,可以更快速的恢復,並透過完善的數位工具解決難題,從中學習並不斷的強化精進。

國科會科技辦公室 廣告


猜你喜歡