美國59%青少年曾通報線上霸凌,Instagram用AI找出可能事件

美國59%青少年曾通報線上霸凌,Instagram用AI找出可能事件
Photo Credit: AP/達志影像
我們想讓你知道的是

過半數美國青少年說自己曾淪為線上騷擾或霸凌的受害者,其中最常見的是留言侮辱。研究顯示,59%的美國青少年曾通報線上霸凌,63%的人說,在他們這個年齡層,這是個嚴重問題。

唸給你聽
powered by Cyberon

隨著網路霸凌問題日益受到關注,擁有10億用戶、全球最大的照片分享社群Instagram今(10)日宣布,將透過人工智慧掃描照片和文字,來審查不當內容,為對抗網路霸凌增添更多利器。

《中央社》報導,才剛剛上任不久的Instagram新任執行長莫瑟里(Adam Mosseri)表示,他們利用人工智慧來偵測霸凌徵兆,接著讓管理人員審查進行最後定奪。

莫瑟里表示,「這項改變將有助我們確認並大幅移除更多霸凌內容。由於許多曾遭霸凌或目睹相關情事的人並未通報,因此這是至關重要的下一步。」

《Unwire.pro》報導,這個新功能是繼去年Instagram在留言過濾器中使用機器學習AI技術,找出「冒犯言語」以進行封鎖之後,再一次打擊網路霸凌行為。Instagram 表示,這個功能將會在未來幾星期正式推出,時間上剛好配合在英國和美國舉辦的反欺凌宣傳週。

這個功能可以直接掃描照片,例如如果照片中有一人明顯比較處於負面狀態,則很可能是在霸凌事件之中,不過Instagram方面並未有詳細解釋分析的基準,Instagram也承認這個技術雖然可以在大規模應用時節省資源,但面對真實的情況,仍然未能完全掌握,因此最後仍然需要有「真人管理員」去作最後檢查,而非全權讓系統作出決定。

《Wired》報導,該工具除了可以掃描照片外,也包括文字,包括「攻擊一個人的外表或性格,以及對一個人的健康威脅」。在幾個月前Instagram曾經擴展其攻擊性評論過濾器,以自動刪除針對個人用戶的攻擊或威脅的評論。從今天開始,Instagram還會將該功能擴展到直播,自動隱藏不當的留言。

除了過濾器之外,Instagram還推出了一種新的「善良相機」效果,它在自拍模式下會用愛心填滿螢幕,並邀請用戶標記支持的朋友,讓用戶使用愛心圖樣或用各國語言寫下「友善」(kindness)文字,「雖然制止惡霸很重要,但我們還必須做更多的事情來慶祝並激發Instagram上的善意」莫瑟里如此表示。

《GlobeNews》報導,Instagram的發言人David Troya-Alvarez則補充,Instagram已經使用人工智慧的自動化技術,來阻止垃圾郵件攻擊,色情內容和恐怖主義內容。「我們將繼續仔細研究其他使用自動化的方法。」

網路霸凌在青少年越來越普遍,臉書也推反霸凌工具

《中央社》報導,根據皮尤研究中心(Pew Research Center)9月公布的調查結果,過半數美國青少年說自己曾淪為線上騷擾或霸凌的受害者,其中最常見的是留言侮辱。研究顯示,59%的美國青少年曾通報線上霸凌,63%的人說,在他們這個年齡層,這是個嚴重問題。

Instagram的母公司臉書(Facebook)先前也同樣推出反騷擾措施,主要是有鑒於調查顯示,遭遇網路霸凌的年輕受害者認為,社群媒體公司在對抗這項問題方面做的不夠多。

莫瑟里說:「線上霸凌的情況很複雜,我們知道自己要做的還很多,以進一步限制霸凌和在Instagram散播良善氛圍。」

《iThome》報導,臉書上週(2日)才剛剛宣布一項新的反霸凌工具,這項新工具會出現在貼文選單中,允許使用者一次隱藏或刪除多個留言,該功能將率先出現在桌面版與Android版的臉書app,未來幾周即會擴張到iOS版上,還更新了上訴功能。

此外,為了那些可能因壓力或其它原因而不自行檢舉霸凌事件的用戶,臉書則允許用戶的親友代為檢舉,臉書將會把檢舉人匿名化,再檢查該貼文是否違反了臉書的《社群守則》(Community Standards)。

現在不管是檢舉裸露照片或仇恨言論,被檢舉人都有上訴的權利,臉書將把此一權利延伸到霸凌或騷擾的內容上,倘若使用者的內容因涉及霸凌或騷擾而遭臉書移除,未來可提出上訴要求臉書重審,同樣地,若所檢舉的霸凌或騷擾內容未能被撤下,檢舉人也能要求重新審核。

臉書已與耶魯大學的情緒智能中心共同創立了「霸凌防制中心」,以協助青少年、家長或教育工作者以正確的心態來面對並處理霸凌問題。

新聞來源:

核稿編輯:楊士範

或許你會想看
更多『新聞』文章 更多『社會』文章 更多『李秉芳』文章
Loader