Instagram與網路霸凌的戰爭:「言論自由」的界線究竟在哪裡?

Instagram與網路霸凌的戰爭:「言論自由」的界線究竟在哪裡?
Photo credit: Reuters/達志影像

我們想讓你知道的是

Instagram並沒有發明霸凌。只要是人類聚集的網路空間,就會有人被霸凌。

文:Katy Steinmetz
譯:李宓

Ethan Cohen第一次在Instagram上遭到霸凌時,他試圖一笑置之。

來自北卡羅來納州羅利市(Raleigh)的Ethan就跟其他同齡的孩子一樣,興沖沖地在中學的時候開始使用Instagram,接著突然有一天,他發現大家都在對著某個帳號竊笑。原來,有人(Ethan至今仍不知是誰幹的)偷偷摸摸拍下他的照片,上傳到名為「ethan_cohens_neck_vein」的帳號,上頭的照片似乎全都是用來嘲笑他脖子上一條特別明顯的肌肉。其中一篇貼文把那條肌肉形容成中國的萬里長城,另一篇則說可以用「聯立方程式」來計算它的尺寸。

在朋友面前,Ethan裝做毫不在乎,一副那只是無聊玩笑的樣子,但私底下他其實很受傷。顯然有人尾隨在他後頭,偷拍並上傳帶有戲謔意味的照片,讓所有人欣賞。現年18歲的Ethan說:「就是因為不知道是誰,所以才很詭異。」他多次向Instagram檢舉那個帳號,但儘管使用規範明確禁止嘲弄他人的身體特徵,那個帳號卻也沒有被下架。

Instagram表示,如果事情發生在今天,就會有不一樣的結果。精密的檢舉工具和評斷機制很快就能把帳號關掉。而且,在不久的將來,Instagram希望能達成更宏大的目標:利用人工智慧鎖定攻擊、羞辱或不尊重的行為,並加以刪除——和Ethan有類似經歷的受害者,甚至不必自己動手檢舉。

我們總是指責社群媒體是許多問題的罪魁禍首,政府也不斷施壓,要求社群公司證明他們可以自制。在這樣的情況下,Instagram選擇向霸凌宣戰。Instagram負責人Adam Mosseri說:「這是關鍵的時刻,我們希望帶領整個產業一同抗爭。」

Instagram該如何擺脫「惡霸一站式購物中心」的情況?

有鑑於Instagram是年輕人使用率最高的平台,這麼做非常合理。年輕人對Instagram的迷戀,使霸凌之於Instagram就像假新聞之於臉書,或是引戰之於Twitter:為了和其他人聚在一起,而無法避免的毒瘤。

有人曾經估計,將近80%的青少年都有Instagram帳號,而且有超過一半的用戶都曾在上頭遭到霸凌——情況遠比脖子的玩笑更惡劣。升上高中,Ethan在Instagram上出櫃,一位校園風雲人物因此私訊轟炸他,稱他是「死gay炮」、「被墮胎失敗的孩子」。Instagram使用者承受許多侮辱和威脅,影響至深。看得更廣一點,Instagram等平台上的霸凌行為也曾被指與自我傷害有關。

亞利桑那大學的諮商學教授Sheri Bauman研究霸凌的因果關係長達數年,她稱Instagram為「惡霸的一站式購物中心」,他們需要的全都在那:受眾、匿名性、強調外貌,還有公開貼文和私訊聊天等多種溝通管道。Instagram高層坦承,當他們設法吸引更多使用者和關注時,每一項新功能也都成了霸凌的新途徑。對此,Instagram公共政策負責人Karina Newton表示:「現在年輕人的創意不容小覷。」

AP_174597502347
Photo credit: AP/達志影像

Mosseri接下這個位子才沒多久。Instagram創辦人於去(2018)年底突然離職(據傳是和母公司臉書產生摩擦),隨後便由臉書的資深員工接任。Mosseri過去靠著管理臉書動態消息,磨練了自己的危機處理能力。現年36歲的他,誓言要為Instagram開創新的世代,將使用者的身心健康視為優先。而解決霸凌問題讓目標逐漸有了輪廓。Mosseri是個極其認真、投入的工程師兼設計。他的團隊時時刻刻都將霸凌問題放在心中,進行大規模調查,推出新功能,改變公司既有規則。

然而,這場戰爭的戰況激烈,還很可能造成其他連帶傷害。Instagram目前是臉書公司當紅的部門,如果太激進,用嚴格的規範,和讓人覺得受侵犯的審核機制,可能會趕跑使用者。但如果做得不夠,尤其在他們誓言要為這個產業立下新標準的前提之下,便可能招來旁人的譴責,說他們將利益置於兒童保護之上。

此外,還有高如聖母峰的技術性障礙要跨越。

若打算設計一套能夠對付霸凌的人工智慧,意味著要讓機器精通一門充滿複雜細節,且仍在發展中的學問。Instagram也必須非常小心,不能侵犯言論自由。工程師設計出來的工具必須能夠找到他們該找的,而不是去限制他們不該限制的東西。Mosseri說:「我確實會擔心,只要一個不小心,我們就可能越界。」但他也說,沒有什麼比平台的文明性更重要,連公司的成長也比不上。他告訴《TIME》:「我們會採取所有讓用戶更安全的作為,儘管那意味著降低Instagram的使用率。」

獲利和道德,應該如何平衡?

人們每用Instagram一小時,臉書公司就會獲利。要是有人因為額外的安全措施或限制而選擇離開,那麼利潤也會跟著消失。

當問到Instagram打擊霸凌的動作是否和公司的財務狀況有關時,Mosseri回覆,如果Instagram無法遏止霸凌現象,他們不僅在道德上讓用戶失望,也令公司蒙羞。他說:「長時間下來,這會傷害我們的聲譽和品牌形象,進而讓我們在結盟上受阻。有太多可能會傷害到公司的可能。如果不想辦法解決產品所延伸出來的問題,我相信總有一天,問題會回到我們頭上,並讓我們付出嚴重的代價。」


猜你喜歡

Tags: