Instagram與網路霸凌的戰爭:「言論自由」的界線究竟在哪裡?

Instagram與網路霸凌的戰爭:「言論自由」的界線究竟在哪裡?
Photo credit: Reuters/達志影像

我們想讓你知道的是

Instagram並沒有發明霸凌。只要是人類聚集的網路空間,就會有人被霸凌。

Instagram在2010年正式上線,由兩個二十多歲的年輕人Kevin Systrom、Mike Krieger共同創辦。他們希望用戶能透過這個照片分享app,讓生活看起來更加美好。而他們的目標也達成了。

短短一年內,每星期都有超過50萬人註冊Instagram帳號。但很快的,大家也開始用Instagram做一些不那麼美好的事。兩位創辦人在早期還得自己下海,刪除惡意留言、限制人們引戰。在他們離開之際,Instagram用戶已超過10億人,遠遠超過人力可管控的程度。因此,就跟所有社群媒體一樣,Instagram也為了防堵恐攻思想、兒童色情片等非法內容,轉而向電腦求助。

為了讓Instagram成為更友善、溫和的空間,兩位創辦人借用了臉書的人工智慧技術:DeepText,這項技術能讀懂並分析平台用戶所使用的語言。早在2016年,Instagram工程師便利用這項技術來鎖定垃圾訊息。隔年,他們訓練這套程式尋找並封鎖帶有攻擊性的言論,包括種族攻擊。

到了2018年中,這項技術也被用來尋找霸凌的言論。去(2018)年10月,Mosseri接任後一週,Instagram宣布,他們不只要用人工智慧探查貼文底下的留言,尋找霸凌的跡象,他們還要利用電腦偵查照片中的霸凌元素。也就是說,他們將用人工智慧來分析每一則貼文。

說起來比做起來容易。

IG網路霸凌instagram
Photo Credit: AP/達志影像

AI辨識霸凌內容的原理是什麼?

當工程師要教一台電腦執行新的任務時,首先,他們得建立一套訓練系統——用白話文來說,就是各種能幫助電腦了解新工作內容的素材。以Instagram的例子來說,第一步是請人類審核員過濾成千上萬張照片,將貼文分成「含霸凌元素」和「不含霸凌元素」兩類。分類完成之後,將這些範本輸進所謂的分類器當中。接著,分類器會像一流的警犬一樣,只要鬆開繩子,就會嗅出你希望牠們找到的物件。

想當然耳,這些初始範本不可能涵蓋分類器實際運作時,可能遇到的所有案例。不過,當分類器標記出某些內容,並經過人類評斷其正確性之後,分類器就會從這些額外的範例當中學習。最理想的狀態是,有工程師在一旁幫忙微調學習軌跡,分類器的準確度會越來越高。

時至今日,一共有三套分類器負責審核Instagram上的內容,尋找霸凌的跡象:一套負責分析文字、一套分析相片,另一套則分析影片。他們時時刻刻都在工作,每個鐘頭都在標記不合格的內容。然而,就像首席工程師Yoav Shapira所言:「一切都才剛起步而已。」也就是說,分類器錯過了許多霸凌行為,而它們認為含有霸凌元素的貼文,也未必真是如此。Shapira團隊的任務,就是改正這個現象。

這之所以困難重重,其中一個原因在於,相較於訓練機器辨識裸露內容,辨識霸凌困難多了:前者,只要判斷照片裡的人有沒有穿褲子即可,後者則包含各式各樣的行為。

網路霸凌的相關研究在受霸凌人數方面有很大的出入,可能低至5%,或高達72%,可能是因為沒人能清楚界定到底何謂網路霸凌。Instagram公共政策負責人Karina Newton說:「霸凌之所以這麼難以根除,其中一個原因就在於它的定義因人而異。」工程師必須確切知道哪些行為算是霸凌,哪些不算,這樣才能建立一套紮實的訓練系統。

Instagram上的霸凌行為也隨時間而變得不同。有很多是所謂的「老派霸凌」,據Instagram的研究,最常見的包含惡劣的留言、侮辱和威脅。這類霸凌還算容易攔截,舉例來說,Instagram的文字分類器就很擅長辨識類似這樣的字串:「你這醜得要命,牙齒還漏風的賤人」、「你女兒是蕩婦」。然而,謾罵的言詞會隨著時間改變,不同文化也有不同的罵人法,青年文化尤其特殊。除此之外,要辨識出帶攻擊性的行為,首要條件是理解整個句子,不能只靠其中幾個詞。看看下面這兩個句子的意思差了多少:「等等我,我馬上過去」、「給我等著,我馬上過去」。

用戶所受到的傷害,不止來自言語。Instagram上有許多所謂的「黑特帳號(hate pages)」,這些匿名帳號專門用來取笑某些人,或將他們去人格化。男性可能會在分手後拍下他和其他女生在一起的照片,然後標記他的前女友。女性可能會在相片上標記一大堆朋友,但刻意忽略某個人。還有些人會截圖其他人的照片,調整之後分享出去,或在聊天室裡大肆嘲笑。此外還有些人會一再騷擾別人,像是在每則貼文底下,回覆同一個貼圖,行為就像是跟蹤。

許多青少年都有過這樣的經驗:自己出糗的照片或影片,在未經同意的情況下,在網路上流傳。或是自己成為「辣?不辣?」投票的主角(類似Mark Zuckerberg在唸哈佛時期創辦的排名網站Facemash)。

Shapira說:「看起來沒有可稱作是霸凌的行為,一切都非常單純。」

為了開發出成效更好的人工智慧,Instagram發出上千份問卷,希望能從旁觀者的角度,更了解霸凌的各種形式。(使用者的回覆也讓Instagram得以評估霸凌情形的普遍程度。相關數據計畫在今年稍晚公布。)根據Karina Newton的說法,Instagram公司對霸凌的現行定義是:意圖「騷擾或羞辱他人」的內容。Shapira的團對則進一步將霸凌分成七個子類別:謾罵、羞辱、威脅、認同攻擊、不尊重、騷擾和出賣。首要計畫是讓人工智慧能理解每個子類別各自的概念。Shapira說:「從工程學的角度來看,這麼做的金錢效率很低,但卻是解決問題最好的方法。」


猜你喜歡


從理論走向實踐:元宇宙熱門應用出列,AWS雲端專家開放洽詢

從理論走向實踐:元宇宙熱門應用出列,AWS雲端專家開放洽詢
Photo Credit:AWS

我們想讓你知道的是

無論產業類型或企業規模,甚或是針對遊戲、娛樂、媒體產業在乎的遊戲或產品推廣宣傳,都能成為初探元宇宙的先行者。首先第一步,就是諮詢 AWS 雲端技術專家。

自從「元宇宙」(Metaverse)這個詞被喊出來後,全世界大約花了半年的時間暸解元宇宙的概念,並在這個名詞上丟出各式各樣的想像。接下來,是時候從理論走向實務發展,捲起袖子來進行元宇宙拓荒了。

首先要認知到的是,元宇宙的基礎開發過程高度仰賴如Amazon Web Services (AWS) 的雲端科技, 透過佈局全球的基礎設施、強大的網絡運算能力、數據湖倉、AI/ML工具、雲端渲染 (cloudrender)等產品和服務,能滿足Web 3.0世界所需的超低延遲、虛實結合、去中心化區塊鏈平台、物聯網等解決方案需求,更使元宇宙的建構演變為各種創新的集合體。

而值得令人興奮的是,無論產業類型或企業規模,甚或是針對遊戲、娛樂、媒體產業在乎的遊戲或產品推廣宣傳,都能成為初探元宇宙的先行者。

立即填寫表單,探索你最適合的元宇宙應用場景!

image3
Photo Credit:AWS
架構在雲端上的元宇宙,將是人類生活下一個關注的焦點。

直擊應用場景!跟著AWS初探元宇宙,就是這麼簡單

究竟元宇宙如何實現,是否有一定的入門門檻?雲端科技、元宇宙等技術,對某些個人或企業組織來説還太過遙遠或生硬;然而,在AWS廣大的合作夥伴網絡及解決方案下,部署服務、發展創新並沒那麼困難。

如果此刻有些新奇趣味的點子,已經在你的腦海裡浮現,它們很有可能正好是初探元宇宙的絕佳應用時機。例如以下需求:

  • 以頂尖的直播技術向世界推廣遊戲或產品:Amazon Interactive Video Service (Amazon IVS) 是能輕鬆快速設定的受管即時串流解決方案,非常適合用來建立互動式影片體驗,打造可供世界各地任何觀眾可用的低延遲即時影片。你可以透過Amazon IVS播放器SDK和定時中繼資料API輕鬆定製和增強觀眾體驗。立即建立應用場景!填寫聯絡方式讓AWS帶你初探元宇宙
  • 在以太坊鏈上鑄造 (mint) 及佈署NFT:使用Amazon Managed Blockchain讓NFT開發人員能夠專注於他們的智能合約開發,無需費心維護以太坊節點以中繼區塊鏈交易或查詢區塊鏈數據的狀態。立即部署NFT!填寫聯絡方式讓AWS帶你初探元宇宙
  • 快速建立專屬的NFT商城 (NFT Store):Qubic能幫助品牌從台灣放眼世界,快速進入Web 3.0的世界。許多企業與名人正以NFT的形式通過數位商品、收藏品、內容和時刻來建立新的客戶體驗和產品供應。立即創建NFT商城!填寫聯絡方式讓AWS帶你初探元宇宙
  • 建立元宇宙世界的高級房產或遊戲的虛擬空間:「MAKAR XR編輯平台」可創建多樣化XR數位內容,包含:AR圖像辨識模組、AR空間定位模組(MR混合實境)、VR虛擬實境模組、數位行動學習教材製作系統及學習歷程與分析等,並支援多元行動載具。立即創建屬於你的元宇宙!填寫聯絡方式讓AWS帶你初探元宇宙
  • 有效管理你所發行的虛擬貨幣或資產:Web 2.5的階段,有哪些可能的解決方案可以試做?私鑰的管理、節點的維運、熱錢包、使用者界面與防火牆,再到API Gateway、KOL及社群維運、NFT發行、數據分析等,從基礎層級到營運層級的各種面向該如何考慮?有哪些DeFi的平台工具可應用?立即填寫聯絡方式!讓AWS帶你暸解應用細節
image2
Photo Credit:AWS
目前已有不少個人或企業投入NFT市場,作為初探元宇宙的首步。

以上熱門應用場景,是搶佔元宇宙浪頭的第一步。若想探索更多元宇宙應用策略,可在此填寫聯絡方式,AWS雲端專家將主動與你聯繫。

最後,若你本身就是開發者,那麼對於元宇宙的技術需求、AWS能提供的對接服務,應該也不陌生。舉凡:全球基礎設施佈建、資料湖、機器學習、渲染 / 雲端遊戲、沉浸式AI、CI/CD、GPU執行個體渲染、NICE DCV遠端視覺化協定、3D VR/AR雲端原生應用、AWS Wavelength、微服務等,AWS都能提供完善的支援與解決方案。瞭解元宇宙客戶案例


猜你喜歡