Tumblr開始過濾成人內容 但連「無問題」示範照片也被封鎖

Tumblr開始過濾成人內容 但連「無問題」示範照片也被封鎖
Photo Credit: Thomas White / REUTERS / 達志影像

我們想讓你知道的是

Tumblr正式落實禁絕成人內容的新政策,然而官方解說文章中用來舉例說明「沒有問題」的照片,卻被系統標記為「違反社群規定」。

網誌及社交媒體平台Tumblr過往以戶度寬鬆見稱,在其他大型平台如Facebook、Instagram和YouTube等禁絕的裸露與色情內容,在Tumblr並不罕見。其平台設計方便分享照片、短片、及GIF等內容,亦吸引了不少創作者——特別是成人內容創作者。

自從2013年被Yahoo收購——以及2017年Yahoo又被Verizon收購——後,Tumblr開始限制成人內容流傳,相信是為了令平台更容易吸引廣告客戶。起初Tumblr用戶須先登入方可搜尋到成人內容,到了2017年Tumblr引入「安全模式」,過濾「敏感內容」(包括所有裸體內容),並在今年預設開啟,需要自行設定關閉,令用戶更難接觸到成人內容。

被蘋果下架後宣布禁成人內容

今年11月16日起,Tumblr在蘋果的App Store上消失,其後該公司確認跟平台上出現色情內容有關。Tumblr的聲明解釋,他們會掃描在該平台上載的所有影像,跟業界的兒童色情內容數據庫對比,一旦發現吻合就無法上載。然而他們的例行審計發現,平台上有未加到數據庫的兒童色情品內容,並立即移除內容。

直到本月12日,Tumblr才被蘋果解封,但在重新上架前一星期,Tumblr已經決定全面禁絕平台上的成人內容。12月3日該公司行政總裁迪諾費奧(Jeff D’Onofrio)指經過考慮及衡量利弊後,他們認為應移除平台上的成人內容,包括露骨的性愛內容以及大多數裸露影像(除了個別例外)。這項新政策於兩星期後——即12月17日——全面落實。

在新政策下,用戶不能張貼成人內容的影像,所有上載至該平台的影像均會經過Tumblr的「成人內容過濾器」掃描,如被判斷為成人內容則無法公開,但不會刪除。若用戶認為系統誤判,可透過上訴機制要求重新檢視內容,Tumblr將派真人審查,確認是否系統判斷錯誤。

系統封鎖官方「無問題」例子

昨日是Tumblr實行新政策的第一天,其官方網誌貼出文章解說,當中提到涉及色情的文字內容不會被禁,而跟政治、具新聞價值的言論有關的裸體影像,以及藝術品中的裸露內容(特別是雕塑及插畫)均可在Tumblr自由張貼,然而指引禁止任何展示性器官、女性乳頭或性行為的寫實圖像或照片。

為了解釋有甚麼裸露圖片不會被禁,Tumblr文章中加入一張GIF動畫,展示了四張圖片,全部都展示了裸露的女性胸部,內容分別是寫生、哺乳、醫療檢查及示威(除了首張是畫作外其他均為照片)。

雖然Tumblr指這是新政策下仍容許張貼的影像例子,但當我開設測試帳戶,在Tumblr上載這張GIF時,卻會出現「你的貼文似乎違反了我們的社群規定,因此現在已被隱藏」的訊息,轉載原來含有圖片的文章則無此問題。

為測試到底是哪一張圖片被禁,我把GIF中的四張圖片抽取出來,再逐張上載,結果發現被系統過濾的是醫療檢查及示威兩張照片,其餘兩張則能夠順利張貼︰

Screenshot_2018-12-18_Tumblr(7)

後來我嘗試上載包含查禁訊息的截圖,裸體示威照片又能夠如常顯示,醫療檢查照片則仍然被隱藏。

https://testing-porn-filter.tumblr.com/post/181211689736

Tumblr的文章表明透過機械審查的系統會出錯,希望用戶能夠使用其上訴機制,讓系統可以改進。

自動過濾成人內容的局限

在Tumblr宣布新政策後,已有不少人測試其過濾成人內容的系統,並指出其判斷能力成疑,會檢舉明顯並非裸體的照片,這可能源於其機器學習演算法錯誤辨認了肉眼無法察覺的規律,以為那代表裸露內容。

禁止色情內容固然引起關於限制創作自由、如何畫下界線等討論——例如為何女性的乳頭就應被禁、應否考慮張貼照片的脈絡,但在回應這些問題之前,Tumblr似乎應先改良這個過濾成人內容的系統,提升其判斷能力。

相關文章︰

資料來源︰