《紐約時報》:一名爸爸為兒子拍攝醫療診斷用途裸照,Google自動判斷為兒童性虐待遭停用帳戶

《紐約時報》:一名爸爸為兒子拍攝醫療診斷用途裸照,Google自動判斷為兒童性虐待遭停用帳戶
Photo Credit: Shutterstock / 達志影像

我們想讓你知道的是

美國兒科學會虐待和忽視兒童委員會主席建議,即使是在醫生指導下,父母也不要拍攝孩子的生殖器,「大多數醫生可能沒有意識到要求父母拍攝此類照片的風險。」法學教授認為,即使科技公司協助執法部門解決和根除兒童性虐待問題,但也應該允許作出糾正原先審查結果。

《紐約時報》報導,一名爸爸馬克(Mark)因遠端醫療診斷需求,拍攝並分享他生病兒子的裸體照片,隨後被Google自動化工具判斷為兒童性虐待與剝削圖像,帳戶也遭停用。法學學者強調,雖然透過科技工具打擊網路傳播兒虐圖像有其必要性,但並非所有裸體兒童的照片都是色情、剝削或虐待的,應設置機制恢復無辜者。

照片遭Google判定涉及兒童性虐待與剝削,隨即遭停用帳戶處分

舊金山(三藩市)的一名全職父親馬克注意到他的兒子陰莖看起來很腫、很痛,於是他使用他的Android智慧手機拍照記錄,以便追蹤病況進展。馬克的妻子隨後向醫療診所安排視訊緊急診療,由於需要照片讓醫生能夠提前檢查,馬克的妻子使用馬克的手機,將兒子腹股溝的幾張高質量特寫傳送到他的iPhone手機,以便上傳到醫療診所的系統中。

而其中一張照片,馬克的手清晰可見,因為如此才能夠清楚地比較腫脹情況。

然而,拍攝照片的兩天後,馬克的帳戶因嚴重違反Google的政策「兒童性虐待與剝削」而被禁用,使他失去十多年的聯繫資料電子郵件和照片,更成為警方調查的目標。

無獨有偶,另一名父親卡西奧(Cassio)在兒科醫師的要求之下,將他兒子內臟部位感染的照片備份至Google,並透過Google的聊天服務將照片傳給他的妻子,其Google帳後隨後也遭到禁用,造成當時正在買房、簽署無數電子文件的他不少的困擾,「這很頭疼。」卡西奧說。

電子前哨基金會(Electronic Frontier Foundation)技術專家喬・卡拉斯(Jon Callas)稱馬克和卡西奧的案件是「危機的前兆」,並說:「可能還有幾十、幾百、幾千起類似案件。」他認為,因為這些指控本身的「有毒性質」,大多數被錯誤判定的人不會公開實際所發生的事情。

馬克表示,「我知道這些公司都在關注,且隱私權利並不是我們期待的那樣,但我沒有做錯任何事。」

在馬克與卡西奧的案例中,經過調查,警方接不認為此案件涉及虐待或兒童剝削,北卡羅來納大學法學教授卡麗莎・柏恩・海西克(Carissa Byrne Hessick)補充,雖然從法律上定義什麼構成性虐待圖像可能很複雜,但他認同警方不構成犯罪的看法,「這些這片是出於非性的原因拍攝。」

然而他們向Google提出申訴,始終無濟於事,無法恢復Google帳戶。

科技工具有效打擊網路傳播兒虐圖像,並發掘潛在的新兒童受虐者

由於科技公司能夠捕獲大量數據,它們被兒童權利倡導者視為「哨兵」,透過審查使用者在服務緝中儲存的內容來防止犯罪;兒童權利倡導者表示,若要打擊網路上猖獗的性虐待圖像傳播,與這些科技公司的合作至關重要。而Google的一份聲明也寫道:「兒童性虐待素材是令人憎恨的,我們致力於防止他在我們的平台上傳播。」

兒童剝削或性虐待的圖像每年被科技公司標記數百萬次,光是Google在2021年就提交了60萬份涉及兒童虐待素材的報告,並禁用超過27萬個用戶;馬克和卡西奧僅是滄海一粟。

PhotoDNA是微軟公司2009年開發出的第一個兒童虐待素材辨別工具,透過既有虐待照片的數據庫,快速梳理大量照片,以辨別出與數據庫中類似圖像。而Google在2018年開發出新的一種人工智慧工具,能夠辨別未曾見過的兒童剝削圖像,意即這項工具不僅能找到已知的兒童受虐圖像,還能夠發現新的受害者圖像,使執法單位能夠解救這些潛在受害兒童。

《數位時代》報導,「迅速辨識新圖片,意味著那些遭到性侵犯兒童的影像,被辨識出來的可能性增加,有助於避免他們受進一步侵犯。」Google工程負責人尼古拉.托多羅維奇(Nikola Todorovic)說。根據Google官方說法,這項AI工具可以幫助人類審查員,移除比平常多出700%的違規內容,能讓人力吃緊的審查團隊,運作得更有效率。

在這些受虐照片被人工智慧標記後,經由Google的人類內容管理員會審查這些照片,再向國家失蹤和剝削兒童中心(National Center for Missing and Exploited Children)CyberTipline等單位通報。

在CyberTipline工作的法倫・麥克納爾蒂(Fallon McNulty)表示,Google發現這些受虐圖像的能力驚人,使他的組織能將這些報告將給警方進一步調查,發揮系統應有的作用。2021年,Cyber​​Tipline報告稱,它已提醒當局注意超過4260名潛在的新兒童受害者,當中也包含馬可和卡西奧的兒子。

《自由時報》報導,國內也曾有少年將偷拍妹妹下體、猥褻的照片上傳至Google雲端相簿,Google發現後主動通報,我國檢警接獲情資,依刑法乘機猥褻罪嫌及違反兒少性剝削防制條例起訴該名少年。

並非所有裸體兒童的照片都是虐待,須機制恢復錯誤標記的無辜者

並非所有裸體兒童的照片都是色情、剝削或虐待的。

美國兒科學會虐待和忽視兒童委員會主席蘇珊娜・哈尼(Suzanne Haney)博士提到,「我為Google所做的事情鼓掌,但確實有一個可怕的缺失,且影響為孩子做正確事情的父母。

他建議,即使是在醫生指導下,父母也不要拍攝孩子的生殖器,「大多數醫生可能沒有意識到要求父母拍攝此類照片的風險。」若真的不得不拍攝,也絕對要避免上傳到雲端,並且盡速將照片刪除。

Google兒童安全運營負責人克萊爾・利利(Claire Lilley)對此回應:「我們確實認識到在遠程醫療,尤其是COVID-19(嚴重特殊傳染性肺炎、新冠肺炎、武漢肺炎)疫情時代,父母有必要給孩子拍照以獲得診斷。」Google公司已經諮詢了兒科醫生,以便其人工審查員了解出於醫療原因拍攝的照片中可能出現的情況。

聖約翰大學法學教授凱特・克羅尼克(Kate Klonick)表示,若要考量到照片圖像無法呈現的內容,例如拍攝照片的意圖等,將會是科技工具自動偵測的一大難關;雖然在掃描數十億張圖片的情況下,錯誤標記是不可避免的,但考量到能夠辨別受虐兒童,這項措施仍是值得的。