百位女明星、網紅、政治人物受害,網紅小玉「Deepfake換臉」販售A片賺千萬被捕

百位女明星、網紅、政治人物受害,網紅小玉「Deepfake換臉」販售A片賺千萬被捕
網紅小玉在公視紀錄片《為寂寞在唱歌》資料照。|Photo Credit: 中央社

我們想讓你知道的是

刑事局偵破某群組使用deepfake技術,將A片中女主角的臉移花接木,換成知名女網紅、政治人物的臉,會員只要花3000至5000元就可以訂做專屬的意淫的對象。

刑事警察局日前網路偵蒐發現,網路流傳數名網紅的性愛影片,經查為社群「台灣網紅挖面」利用換臉技術,將網紅及名人的臉移植進色情片,不法獲利高達上千萬元,昨天循線查獲主嫌為知名網紅「小玉」等3人,全案依涉嫌散播猥褻物與妨害名譽等罪解送新北地檢署偵辦,稍早已交保釋回。

《中央社》報導,刑事局今天召開破案記者會,警方日前執行網路情蒐時,發現數名網紅、藝人的性愛影片自去年7月起於網路上流傳,但求證發現均非本人所拍攝,經進一步追查發現,這些影片是從社群軟體推特粉絲團「台灣網紅挖面」所流出,犯嫌透過人工智慧換臉AI Deepfake技術,將多名知名網紅、藝人或政治人物的臉部圖像移植到色情片AV女優身上,再後製成色情影片販售得利。

從去(2020)年7月開始,有數名網紅、女明星、女性政治人物之性愛影片於網路上流傳,警方求證後、發現影片均非本人所拍攝。網紅奎丁就曾出面指控,加密軟體Telegram「台灣網紅挖面群組」利用AI技術,將網紅及名人的臉換到謎片成為女主角,並且公開在群組販售,被偷臉的對象高達包括喜劇脫口秀演員龍龍、網紅蕾拉,甚至連政治人物黃捷、高嘉瑜都受害。

《鏡週刊》去年也採訪了YouTuber球球、奎丁、白癡公主、黃捷、高嘉瑜、理科太太等6名被換臉至色情片的被害人,說出她們遭挖面後的真實感受與證言。

專案小組透過科技偵查發現,經營「台灣網紅挖面」的主嫌為知名百萬YouTuber小玉(朱玉宸),他以中國發行的DeepFace軟體建模,將色情片的女主角的臉,換成女明星、網紅、政治人物的臉,並出售牟利,粗估不法獲利約1100萬元,招募會員逾8000人,已知變臉影片受害者超過上百人,包括藝人鄭家純(雞排妹)、YouTuber奎丁和立委高嘉瑜都在內。

警方調查,只要匯款支付400至1900元不等的費用,就可加入Telegram加密群組,或是得到影片連結雲端網址,可線上瀏覽網紅換臉色情片。加上小玉定期舉辦「票選」「集資」活動,網友選出哪位知名網紅,小玉就會製作該網紅換臉性愛影片上傳販售,任人意淫。根據數位女力聯盟觀察,該群組每週都會進行投票,讓會員競標下一個被合成的人選,甚至會員只要花3000至5000元就可以訂做專屬的意淫的對象。

《ETtoday》報導,專案小組昨(17)日持搜索票前往朱玉宸於新北樹林區住處、工作室執行搜索,現場拘提小玉與其搭擋笑笑(耶姓女子)、莊姓男子,並查扣現金458萬5000元、金融帳戶存簿13本及金融卡、電腦2台、硬碟2顆、手機2支、BENZ名車1台等贓證物,法官裁定扣押小玉不法金流共3筆,並依散播猥褻物、妨害名譽等罪解送新北地方檢察署偵辦,檢方訊後,將小玉諭令50萬元交保、莊男10萬元交保,至於笑笑則被釋回。

下載
Photo Credit: 中央社
警方17日循線查獲主嫌為知名YouTuber小玉(中),全案依法送辦。

小玉到案供稱,起初只是在20多人朋友群組分享有趣的剪輯影片,但隨著人數增長,才轉而藉此牟利。經警方調查了解,主嫌小玉主要負責剪輯影片和回覆網友留言,共犯莊男負責找影片素材和整理,耶女則是處理金流。

其實小玉去年愚人節曾用AI換臉技術「Deepfake」自製前高雄市長韓國瑜談話影片,他聲稱「只花30分鐘和一個配音員,我可以讓韓國瑜講出任何我想要他講的話」,提醒民眾防範假新聞,並透露該軟體是在某個QQ群組上購買的,只花了150人民幣(約新台幣652元),孰料他已經透過這樣的技術用在其他用途,以牟取不法所得。

不只女明星,只要有照片「任何人都可能受害」

Deepfake是一項透過 AI (機器學習)來合成特定人臉甚至人聲的技術,能分析目標對象各個角度的大量照片後,再透過演算法製造出目標對象的各種表情,藉此和影片中某個角色的面部表情完全契合。

Deepfake技術開始被外界注意,應推至2017年12月,有網民在一個人氣論壇上發布偽造的色情影片,把「神力女超人(Wonder Woman)」的女主角蓋兒・加朵(Gal Gadot)的樣貌,「換」到色情片女演員身上,幾可亂真;其他受害知名女星還有史嘉蕾.強森(Scarlett Johansson)、泰勒.絲薇芙特(Taylor Swift)、艾瑪.華森(Emma Watson)、娜塔莉.波曼(Natalie Portman)等。

立委王婉諭則表示,此事件讓許多女性網紅與YouTuber深受其擾,甚至因為影片被上傳到色情網站而必須出面澄清。她更指出,令人擔心的是,不只名人會成為受害者,只要有數量夠多、清晰的個人照片,群組中有許多老司機甚至會提供身邊女性友人的照片,當成Deepfake的素材,許多人可能因此成為意淫的對象而不自知。

遭換臉成A片女主角:高嘉瑜推修法,黃捷稱變態絕對告到底

身為受害者民進黨立委高嘉瑜今天在臉書發文表示,這些在網路上未經同意而被換臉、製成色情片的受害者將近百人,規模驚人,除了知名網紅、藝人明星,也不乏女性政治人物,這樣的行為早已對女性的名譽造成不可抹滅的侵害。

高嘉瑜認為,未經本人同意而發布的AI換臉影片,其實就是一種變相散播假訊息的行為,但綜觀現行針對假訊息管制的法規中,卻僅針對災害、食品、傳染病等假訊息才有做特別規範,對於AI換臉造假的影片目前仍無法可管。

高嘉瑜表示,她未來將參考國際作法,致力於推動台灣AI換臉管制的相關法令,包括建立獨立的網路影像真實性查核單位、提高網路平台對於用戶發布內容之監督責任、將AI換臉的濫用視為獨立犯罪行為,並明文規範其刑事、民事與行政責任。


猜你喜歡

Tags: