Tumblr開始過濾成人內容 但連「無問題」示範照片也被封鎖

我們想讓你知道的是
Tumblr正式落實禁絕成人內容的新政策,然而官方解說文章中用來舉例說明「沒有問題」的照片,卻被系統標記為「違反社群規定」。
網誌及社交媒體平台Tumblr過往以戶度寬鬆見稱,在其他大型平台如Facebook、Instagram和YouTube等禁絕的裸露與色情內容,在Tumblr並不罕見。其平台設計方便分享照片、短片、及GIF等內容,亦吸引了不少創作者——特別是成人內容創作者。
自從2013年被Yahoo收購——以及2017年Yahoo又被Verizon收購——後,Tumblr開始限制成人內容流傳,相信是為了令平台更容易吸引廣告客戶。起初Tumblr用戶須先登入方可搜尋到成人內容,到了2017年Tumblr引入「安全模式」,過濾「敏感內容」(包括所有裸體內容),並在今年預設開啟,需要自行設定關閉,令用戶更難接觸到成人內容。
被蘋果下架後宣布禁成人內容
今年11月16日起,Tumblr在蘋果的App Store上消失,其後該公司確認跟平台上出現色情內容有關。Tumblr的聲明解釋,他們會掃描在該平台上載的所有影像,跟業界的兒童色情內容數據庫對比,一旦發現吻合就無法上載。然而他們的例行審計發現,平台上有未加到數據庫的兒童色情品內容,並立即移除內容。
直到本月12日,Tumblr才被蘋果解封,但在重新上架前一星期,Tumblr已經決定全面禁絕平台上的成人內容。12月3日該公司行政總裁迪諾費奧(Jeff D’Onofrio)指經過考慮及衡量利弊後,他們認為應移除平台上的成人內容,包括露骨的性愛內容以及大多數裸露影像(除了個別例外)。這項新政策於兩星期後——即12月17日——全面落實。
在新政策下,用戶不能張貼成人內容的影像,所有上載至該平台的影像均會經過Tumblr的「成人內容過濾器」掃描,如被判斷為成人內容則無法公開,但不會刪除。若用戶認為系統誤判,可透過上訴機制要求重新檢視內容,Tumblr將派真人審查,確認是否系統判斷錯誤。
系統封鎖官方「無問題」例子
昨日是Tumblr實行新政策的第一天,其官方網誌貼出文章解說,當中提到涉及色情的文字內容不會被禁,而跟政治、具新聞價值的言論有關的裸體影像,以及藝術品中的裸露內容(特別是雕塑及插畫)均可在Tumblr自由張貼,然而指引禁止任何展示性器官、女性乳頭或性行為的寫實圖像或照片。
為了解釋有甚麼裸露圖片不會被禁,Tumblr文章中加入一張GIF動畫,展示了四張圖片,全部都展示了裸露的女性胸部,內容分別是寫生、哺乳、醫療檢查及示威(除了首張是畫作外其他均為照片)。
雖然Tumblr指這是新政策下仍容許張貼的影像例子,但當我開設測試帳戶,在Tumblr上載這張GIF時,卻會出現「你的貼文似乎違反了我們的社群規定,因此現在已被隱藏」的訊息,轉載原來含有圖片的文章則無此問題。
為測試到底是哪一張圖片被禁,我把GIF中的四張圖片抽取出來,再逐張上載,結果發現被系統過濾的是醫療檢查及示威兩張照片,其餘兩張則能夠順利張貼︰

後來我嘗試上載包含查禁訊息的截圖,裸體示威照片又能夠如常顯示,醫療檢查照片則仍然被隱藏。
Tumblr的文章表明透過機械審查的系統會出錯,希望用戶能夠使用其上訴機制,讓系統可以改進。
自動過濾成人內容的局限
在Tumblr宣布新政策後,已有不少人測試其過濾成人內容的系統,並指出其判斷能力成疑,會檢舉明顯並非裸體的照片,這可能源於其機器學習演算法錯誤辨認了肉眼無法察覺的規律,以為那代表裸露內容。
禁止色情內容固然引起關於限制創作自由、如何畫下界線等討論——例如為何女性的乳頭就應被禁、應否考慮張貼照片的脈絡,但在回應這些問題之前,Tumblr似乎應先改良這個過濾成人內容的系統,提升其判斷能力。
相關文章︰
- 貼祼體名畫帳戶被封 巴黎教師控Facebook 法院裁定FB須於法國面對訴訟
- 當AI懂得把色情影片移花接木,會帶來甚麼倫理和法律問題?
- 「在紐約合法,在Instagram上卻不行」——關於「乳頭解放」,你也許不知道的歷史
資料來源︰
- Tumblr's Porn Filter Flags Its Own Examples of 'Permitted' Nudity (Gizmodo)
- Tumblr Staff Blog Dec 17th, 2018
- A better, more positive Tumblr (Tumblr Staff Blog)
- November 16, 2018: Issues with the iOS app (Tumblr Help Center)
- Tumblr was removed from Apple’s App Store over child pornography issues (The Verge)
- Tumblr booted from App Store due to child porn (TechCrunch)
- Tumblr's Porn-Detecting AI Has One Job—and It's Bad at It (Wired)
- Tumblr Is Turning ‘Safe Mode’ on by Default for Everyone (Motherboard)