Instagram與網路霸凌的戰爭:「言論自由」的界線究竟在哪裡?

Instagram與網路霸凌的戰爭:「言論自由」的界線究竟在哪裡?
Photo credit: Reuters/達志影像
我們想讓你知道的是

Instagram並沒有發明霸凌。只要是人類聚集的網路空間,就會有人被霸凌。

唸給你聽
powered by Cyberon

文:Katy Steinmetz
譯:李宓

Ethan Cohen第一次在Instagram上遭到霸凌時,他試圖一笑置之。

來自北卡羅來納州羅利市(Raleigh)的Ethan就跟其他同齡的孩子一樣,興沖沖地在中學的時候開始使用Instagram,接著突然有一天,他發現大家都在對著某個帳號竊笑。原來,有人(Ethan至今仍不知是誰幹的)偷偷摸摸拍下他的照片,上傳到名為「ethan_cohens_neck_vein」的帳號,上頭的照片似乎全都是用來嘲笑他脖子上一條特別明顯的肌肉。其中一篇貼文把那條肌肉形容成中國的萬里長城,另一篇則說可以用「聯立方程式」來計算它的尺寸。

在朋友面前,Ethan裝做毫不在乎,一副那只是無聊玩笑的樣子,但私底下他其實很受傷。顯然有人尾隨在他後頭,偷拍並上傳帶有戲謔意味的照片,讓所有人欣賞。現年18歲的Ethan說:「就是因為不知道是誰,所以才很詭異。」他多次向Instagram檢舉那個帳號,但儘管使用規範明確禁止嘲弄他人的身體特徵,那個帳號卻也沒有被下架。

Instagram表示,如果事情發生在今天,就會有不一樣的結果。精密的檢舉工具和評斷機制很快就能把帳號關掉。而且,在不久的將來,Instagram希望能達成更宏大的目標:利用人工智慧鎖定攻擊、羞辱或不尊重的行為,並加以刪除——和Ethan有類似經歷的受害者,甚至不必自己動手檢舉。

我們總是指責社群媒體是許多問題的罪魁禍首,政府也不斷施壓,要求社群公司證明他們可以自制。在這樣的情況下,Instagram選擇向霸凌宣戰。Instagram負責人Adam Mosseri說:「這是關鍵的時刻,我們希望帶領整個產業一同抗爭。」

Instagram該如何擺脫「惡霸一站式購物中心」的情況?

有鑑於Instagram是年輕人使用率最高的平台,這麼做非常合理。年輕人對Instagram的迷戀,使霸凌之於Instagram就像假新聞之於臉書,或是引戰之於Twitter:為了和其他人聚在一起,而無法避免的毒瘤。

有人曾經估計,將近80%的青少年都有Instagram帳號,而且有超過一半的用戶都曾在上頭遭到霸凌——情況遠比脖子的玩笑更惡劣。升上高中,Ethan在Instagram上出櫃,一位校園風雲人物因此私訊轟炸他,稱他是「死gay炮」、「被墮胎失敗的孩子」。Instagram使用者承受許多侮辱和威脅,影響至深。看得更廣一點,Instagram等平台上的霸凌行為也曾被指與自我傷害有關。

亞利桑那大學的諮商學教授Sheri Bauman研究霸凌的因果關係長達數年,她稱Instagram為「惡霸的一站式購物中心」,他們需要的全都在那:受眾、匿名性、強調外貌,還有公開貼文和私訊聊天等多種溝通管道。Instagram高層坦承,當他們設法吸引更多使用者和關注時,每一項新功能也都成了霸凌的新途徑。對此,Instagram公共政策負責人Karina Newton表示:「現在年輕人的創意不容小覷。」

AP_174597502347
Photo credit: AP/達志影像

Mosseri接下這個位子才沒多久。Instagram創辦人於去(2018)年底突然離職(據傳是和母公司臉書產生摩擦),隨後便由臉書的資深員工接任。Mosseri過去靠著管理臉書動態消息,磨練了自己的危機處理能力。現年36歲的他,誓言要為Instagram開創新的世代,將使用者的身心健康視為優先。而解決霸凌問題讓目標逐漸有了輪廓。Mosseri是個極其認真、投入的工程師兼設計。他的團隊時時刻刻都將霸凌問題放在心中,進行大規模調查,推出新功能,改變公司既有規則。

然而,這場戰爭的戰況激烈,還很可能造成其他連帶傷害。Instagram目前是臉書公司當紅的部門,如果太激進,用嚴格的規範,和讓人覺得受侵犯的審核機制,可能會趕跑使用者。但如果做得不夠,尤其在他們誓言要為這個產業立下新標準的前提之下,便可能招來旁人的譴責,說他們將利益置於兒童保護之上。

此外,還有高如聖母峰的技術性障礙要跨越。

若打算設計一套能夠對付霸凌的人工智慧,意味著要讓機器精通一門充滿複雜細節,且仍在發展中的學問。Instagram也必須非常小心,不能侵犯言論自由。工程師設計出來的工具必須能夠找到他們該找的,而不是去限制他們不該限制的東西。Mosseri說:「我確實會擔心,只要一個不小心,我們就可能越界。」但他也說,沒有什麼比平台的文明性更重要,連公司的成長也比不上。他告訴《TIME》:「我們會採取所有讓用戶更安全的作為,儘管那意味著降低Instagram的使用率。」

獲利和道德,應該如何平衡?

人們每用Instagram一小時,臉書公司就會獲利。要是有人因為額外的安全措施或限制而選擇離開,那麼利潤也會跟著消失。

當問到Instagram打擊霸凌的動作是否和公司的財務狀況有關時,Mosseri回覆,如果Instagram無法遏止霸凌現象,他們不僅在道德上讓用戶失望,也令公司蒙羞。他說:「長時間下來,這會傷害我們的聲譽和品牌形象,進而讓我們在結盟上受阻。有太多可能會傷害到公司的可能。如果不想辦法解決產品所延伸出來的問題,我相信總有一天,問題會回到我們頭上,並讓我們付出嚴重的代價。」

Instagram在2010年正式上線,由兩個二十多歲的年輕人Kevin Systrom、Mike Krieger共同創辦。他們希望用戶能透過這個照片分享app,讓生活看起來更加美好。而他們的目標也達成了。

短短一年內,每星期都有超過50萬人註冊Instagram帳號。但很快的,大家也開始用Instagram做一些不那麼美好的事。兩位創辦人在早期還得自己下海,刪除惡意留言、限制人們引戰。在他們離開之際,Instagram用戶已超過10億人,遠遠超過人力可管控的程度。因此,就跟所有社群媒體一樣,Instagram也為了防堵恐攻思想、兒童色情片等非法內容,轉而向電腦求助。

為了讓Instagram成為更友善、溫和的空間,兩位創辦人借用了臉書的人工智慧技術:DeepText,這項技術能讀懂並分析平台用戶所使用的語言。早在2016年,Instagram工程師便利用這項技術來鎖定垃圾訊息。隔年,他們訓練這套程式尋找並封鎖帶有攻擊性的言論,包括種族攻擊。

到了2018年中,這項技術也被用來尋找霸凌的言論。去(2018)年10月,Mosseri接任後一週,Instagram宣布,他們不只要用人工智慧探查貼文底下的留言,尋找霸凌的跡象,他們還要利用電腦偵查照片中的霸凌元素。也就是說,他們將用人工智慧來分析每一則貼文。

說起來比做起來容易。

IG網路霸凌instagram
Photo Credit: AP/達志影像
AI辨識霸凌內容的原理是什麼?

當工程師要教一台電腦執行新的任務時,首先,他們得建立一套訓練系統——用白話文來說,就是各種能幫助電腦了解新工作內容的素材。以Instagram的例子來說,第一步是請人類審核員過濾成千上萬張照片,將貼文分成「含霸凌元素」和「不含霸凌元素」兩類。分類完成之後,將這些範本輸進所謂的分類器當中。接著,分類器會像一流的警犬一樣,只要鬆開繩子,就會嗅出你希望牠們找到的物件。

想當然耳,這些初始範本不可能涵蓋分類器實際運作時,可能遇到的所有案例。不過,當分類器標記出某些內容,並經過人類評斷其正確性之後,分類器就會從這些額外的範例當中學習。最理想的狀態是,有工程師在一旁幫忙微調學習軌跡,分類器的準確度會越來越高。

時至今日,一共有三套分類器負責審核Instagram上的內容,尋找霸凌的跡象:一套負責分析文字、一套分析相片,另一套則分析影片。他們時時刻刻都在工作,每個鐘頭都在標記不合格的內容。然而,就像首席工程師Yoav Shapira所言:「一切都才剛起步而已。」也就是說,分類器錯過了許多霸凌行為,而它們認為含有霸凌元素的貼文,也未必真是如此。Shapira團隊的任務,就是改正這個現象。

這之所以困難重重,其中一個原因在於,相較於訓練機器辨識裸露內容,辨識霸凌困難多了:前者,只要判斷照片裡的人有沒有穿褲子即可,後者則包含各式各樣的行為。

網路霸凌的相關研究在受霸凌人數方面有很大的出入,可能低至5%,或高達72%,可能是因為沒人能清楚界定到底何謂網路霸凌。Instagram公共政策負責人Karina Newton說:「霸凌之所以這麼難以根除,其中一個原因就在於它的定義因人而異。」工程師必須確切知道哪些行為算是霸凌,哪些不算,這樣才能建立一套紮實的訓練系統。

Instagram上的霸凌行為也隨時間而變得不同。有很多是所謂的「老派霸凌」,據Instagram的研究,最常見的包含惡劣的留言、侮辱和威脅。這類霸凌還算容易攔截,舉例來說,Instagram的文字分類器就很擅長辨識類似這樣的字串:「你這醜得要命,牙齒還漏風的賤人」、「你女兒是蕩婦」。然而,謾罵的言詞會隨著時間改變,不同文化也有不同的罵人法,青年文化尤其特殊。除此之外,要辨識出帶攻擊性的行為,首要條件是理解整個句子,不能只靠其中幾個詞。看看下面這兩個句子的意思差了多少:「等等我,我馬上過去」、「給我等著,我馬上過去」。

用戶所受到的傷害,不止來自言語。Instagram上有許多所謂的「黑特帳號(hate pages)」,這些匿名帳號專門用來取笑某些人,或將他們去人格化。男性可能會在分手後拍下他和其他女生在一起的照片,然後標記他的前女友。女性可能會在相片上標記一大堆朋友,但刻意忽略某個人。還有些人會截圖其他人的照片,調整之後分享出去,或在聊天室裡大肆嘲笑。此外還有些人會一再騷擾別人,像是在每則貼文底下,回覆同一個貼圖,行為就像是跟蹤。

許多青少年都有過這樣的經驗:自己出糗的照片或影片,在未經同意的情況下,在網路上流傳。或是自己成為「辣?不辣?」投票的主角(類似Mark Zuckerberg在唸哈佛時期創辦的排名網站Facemash)。

Shapira說:「看起來沒有可稱作是霸凌的行為,一切都非常單純。」

為了開發出成效更好的人工智慧,Instagram發出上千份問卷,希望能從旁觀者的角度,更了解霸凌的各種形式。(使用者的回覆也讓Instagram得以評估霸凌情形的普遍程度。相關數據計畫在今年稍晚公布。)根據Karina Newton的說法,Instagram公司對霸凌的現行定義是:意圖「騷擾或羞辱他人」的內容。Shapira的團對則進一步將霸凌分成七個子類別:謾罵、羞辱、威脅、認同攻擊、不尊重、騷擾和出賣。首要計畫是讓人工智慧能理解每個子類別各自的概念。Shapira說:「從工程學的角度來看,這麼做的金錢效率很低,但卻是解決問題最好的方法。」

由於霸凌與否經常得視情況而定(有時可能只是圈內笑話,有時則取決於雙方關係的親密程度),Instagram的工程師也在努力尋找辦法,利用帳戶的活動情形來分辨有心和無意。

以「ho(譯者注:指慾求不滿、性生活頻繁的女性)」這個字來說,如果一個男人稱一個女人為「ho」,那就算是霸凌。反之,如果一個女人稱另一個女性朋友為「ho」,那就不是霸凌。同樣的,如果某個人說了一次「這照片真讚」,他可能是想要稱讚。然而,如果他在某人所有的貼文底下都這麼回覆,那就顯得可疑了。工程師必須從中學會辨別這些關係的訊號:兩個帳號經常互相標記嗎?任何一方曾經封鎖另一方嗎?用戶名稱跟過去曾被除名的帳號類似嗎?帳號是否反覆貼出類似這樣的句子:「去某人的帳號,用這張照片轟炸他的私訊匣。」

在相片和影片方面,分類器就不再那麼精準、進步。負責分析用戶回報的工程師和審核員還沒找到確切的模式,但大原則已經出來了。比方說,分割畫面通常都含有霸凌的元素,尤其當偵測到的畫面一邊是人,另一邊則是動物時,可能性更高。三人合照中,若有其中一人臉上被畫了紅色的大叉叉,那很可能也是霸凌。濾鏡則往往是善意的象徵,因為人們通常不會美化受害者。

Instagram團隊也漸漸學會分析照片主角的姿勢,像是假如拍攝的角度是「由下而上」,那很可能就是偷拍的相片。因此,如果相片裡的一個人呈站姿,另一個的姿勢卻像是「受害者」,那就得格外留意了。

Cyber bullying_網路霸凌
Photo Credit: CORBIS/達志影像

Shapira說,研究員每週都會將他們的發現寫成報告,而幾乎每週都會有他們從沒想過的霸凌形式。儘管如此,在臉書團隊和資源的幫助之下,Instagram公司負責用戶身心的員工相信,他們不僅能攻克各路專家長期以來困擾不已的挑戰(像是建造一台理解何謂諷刺的電腦),還能知道要怎麼用人工智慧來辨識像是「朋友懼怕揪團沒找你(intentional FOMO)」的新現象,或是中學生用來嘲笑同脖子的帳號。

言論自由和防範霸凌的界線,該怎麼拿捏

Instagram公司還有很多數據不願公布,像是在他們的1200位員工,或臉書的37700位員工當中,有多少人負責霸凌問題。他們也不願公布現行分類器的錯誤率,或標記給審核員的內容究竟有多少。人們現階段對人工智慧的期待,往往高過其實際能力。而對科技的信心,則是高得衝破天際。Shapira說:「會改善的,再過一兩年左右。」

Mosseri在產業最艱困的時刻接下了目前最強盛的社群媒體。5月中,我和他在Instagram舊金山分公司一間寬敞明亮的辦公室會談,討論霸凌一事。這是他在美國第一次公開受訪, 而且就在不久前,白宮才邀請了一群自認被社群媒體公司審查的民眾,來跟總統聊聊他們的故事。在那之前不久,臉書的一位共同創辦人主張,是時候拆分臉書權力了。

考慮到不可能有一套標準清楚界定Instagram的人工智慧和審核員可以嚴苛到什麼地步,我問他,當他在制訂反霸凌策略時,是否受到言論自由牽制。他說,他們必須很小心,「言論超級重要」。但他也強調,Instagram必須有所作為。好幾年來,網路公司刻意和平台上的一切保持距離,不負任何責任。但隨著政治氛圍更加謹慎,公司高層的行事也更加負責。他說:「有鑑於我們的規模,我們肩負了重責大任。」

危機四伏,但Mosseri很熟悉棘手的處境。2008年,他加入臉書公司,擔任設計師。後來,也組了一支團隊,負責管理臉書的動態消息。而用戶主頁上那些毫無止境的動態,正是爭議的中心。2016年大選期間,眾人的引戰和外國勢力的干擾、操弄,也始於臉書的動態消息。有鑑於此,Mosseri組成了「廉政小組」,親自監管人工智慧的開發,意圖根除假消息等複雜的病灶。在這期間,他與祖克柏熟識,2018年初,被指派為Instagram的產品主管,之後更一舉登上Instagram負責人的職位。

隨著Instagram努力讓霸凌的定義更臻完善,Mosseri相信他們能夠建立一套標準,用人工智慧止住欺凌,甚至開發出其他公司也願意採用的系統。於此同時,他也致力於尋找各種方法,讓Instagram的廣大用戶在電腦的輔助之下,一起幫忙解決這個問題。他說:「人們經常將科技和人性置於對立面。但我的看法是,人類和科技可以,而且也應該攜手合作。」

Instagram即將在今年推出兩項新功能,作為上述理想之實踐。其一稱為「留言警告」:假如某人決定在某篇貼文下留言,而Instagram的霸凌分類器認定該貼文有霸凌的「嫌疑」,那麼系統就會跳出提示,請使用者三思而後行。Instagram身心健康小組的一位設計師Francesco Fogu說:「這是給用戶的小提醒,告訴你:『嘿,這可能不太禮貌喔。』而不是直接禁止你發布訊息。」這也讓Instagram免於面對霸凌和言論自由之間的微妙界線。

第二項功能,叫做「限制」(Restrict)。Instagram的調查發現,青少年非常討厭封鎖霸凌他們的同學,這一方面讓他們受傷的情緒漏了餡,另一方面,也讓他們無從得知霸凌者可能的下一步。「限制」功能隱晦多了。你很容易就會發現自己被封鎖,但要發現自己被限制,就沒那麼容易。被霸凌的對象有權審核霸凌者帳號所張貼的任何留言,他可以選擇核可、刪除,或讓它永遠停在「待審核」狀態(如此一來,除了霸凌者自己,其他人都不會看到這則留言)。私訊匣也有類似功能。如果霸凌者想在公開貼文上標記某個用戶,Instagram不會自動跳出該用戶的名字,霸凌者得完整打出那個人的帳號名才行。Fogu說,這些設定會拉開雙方的距離,「讓霸凌者更難欺負別人」。

Instagram還在產品開發的過程中,多加了一道步驟。在任何東西上市之前,都必須經過審查,了解該產品被「武器化」的任何可能,而這也包含了霸凌。假如該功能明顯容易淪為霸凌的工具,Karina Newton說,他們便會考慮撤下該功能,即使它再受歡迎也一樣。

To match feature JAPAN-CYBERBULLYING
Photo Credit: Reuters/達志影像
除了主動對用戶呼籲,Instagram還能多做些什麼?

整體而言, Instagram看似比任何公司都更努力在打這場仗,但他們還是忽略了某些可能的解方。我們為了這篇報導,進行了多次訪談,出現最多的疑慮便是Instagram的匿名性。這項特性使得青少年得以經營所謂的「懺悔」或「譴責」帳號,用以散布八卦、扭曲同儕。這也讓用戶能夠輕易去除他人的人格,助長惡劣的行為。當問道Instagram是否考慮和臉書一樣採實名制時,Mosseri並未排除這個可能,但也沒有積極想要這麼做——畢竟這會直接影響他們大部分的用戶。

他說:「確實,當有責任歸屬存在,人們會更注意自己的行為。而責任歸屬有部分來自於大家知道你是誰。但匿名性也帶來許多好處。人的身分非常複雜。」

以他自己為例,他有兩個年紀太小,還無法使用Instagram的孩子(儘管人們經常不遵守規定,但照理來說,未滿13歲的孩子不能註冊Instagram)。於是,Mosseri替他們經營帳號,好讓親戚追蹤。他還說,對正在探索性別認同或性傾向的年輕人來說,匿名性也讓他們保有隱私。此外人們還可以追求不同於線下生活的興趣。Mosseri表明:「重點是我們如何了解人們的動機、如何解決問題,而且避免破壞好的那一面。」

隨著外界對科技公司的監督越來越謹慎,而且還有研究報告指出,霸凌並不是成長過程中無足輕重的小事,這些公司在處理霸凌事件時所受的壓力也越來越大。對很多青少年來說,Instagram是他們接觸的第一個社群媒體,再加上這個時代的年輕人比過去更孤獨、憂鬱——一切都使他們更加脆弱。許多學者認為,社群媒體必須為上述現象負起部分責任,畢竟發生在這些平台上的霸凌現象確實對青少年的心理健康有害。雖然有時可能只是稍微煩人了一點,但霸凌也經常被認為和自我傷害、自殺、自殺傾向,及成年之後的焦慮有關。

人身攻擊是這些平台上最典型的霸凌形式,但除此之外,還有不少單獨的案例,遠比人身攻擊更嚴重。2015年,12歲的Kennis Cady在紐約East Rochester的臥房上吊自殺,在昏迷一週後,不幸身亡。後續調查發現,許多同學提到他們曾經看過或聽說過有兩個八年級學生在Instagram上創了一個帳號,假裝她們是Kennis,並散布關於她的錯誤訊息,藉以捉弄Kennis。調查員懷疑Kennis生前可能試圖刪除帳號,但他們不曾找到那個帳戶。

Kennis的媽媽Michaela表示,她「真心相信」是社群媒體導致了她女兒的精神狀況。她說,Kennis在自殺前一天「非常沉默,看起來心情很低落」。

在接受《TIME》訪問之前,Mosseri只有一次公開受訪的紀錄。當時,英國一名年輕女孩自殺,而據她父親的說法,她在離世前,曾在社群媒體上瀏覽自殺、憂鬱等教人不安的內容。好巧不巧,Instagram在二月份也將自我傷害的相片列為管制內容,不允張貼。

真正該問的問題:人們為何會有這些霸凌的行為

Mosseri和Twitter執行長Jack Dorsey等社群媒體巨頭一樣,他說Instagram正在釐清人們對社群媒體極度焦慮的「核心原因」。人會做各式各樣糟糕的事情,像是為了證明自己的社交地位(也就是獲得更多的「讚」),而設法詆毀他人。因此,Instagram正在測試能否完全隱藏讚數。同時,他們也設法讓用戶暫時抽離社群媒體。其中一個正在開發中的功能叫做「暫離模式」,使用者可以設下時限,在這期間,他們不會收到通知,非聯絡人也無法聯絡他們。

此外,Instagram也在開發一套新程式,希望能藉此挑戰平台協助建立起的無敵高標。大多數青少年都會告訴你,如果你想激起旁人的嫉妒,你必須看起來迷人,但又不能太刻意。來自洛杉磯拉法葉市(Lafayette)、現年15歲的Courtney Broussard說:「可能會有人截圖,在你背後嘲笑你。只要你沒達到標準,就可能被網路霸凌。」

呼籲拆分科技巨擘的聲浪(例如要求Instagram從臉書公司中獨立出來)也逐漸登上電視新聞,或成為社會運動的訴求。對此,Mosseri的回應是,從母公司獨立出來「最大的缺點」,是他的團隊將無法使用人工智慧和相關技術,因而無法處理霸凌和騷擾等問題。他相信Instagram的規模(或說是責任)也是一項資產。確實,如果他們的規模比現在小一萬倍,那審核員就能審核每一則貼文和每一條訊息,這麼做也許就能輕易解決霸凌問題,但卻可能產生資安疑慮。他還說,以他們現在的規模,他們將能帶領整個產業,提升對網路霸凌的了解,並找到能與之抗衡的技術。

Mosseri表示,關鍵在於你是否認為人際連結,或甚至網路本身,對人性來說百利而無一害。他說:「一開始,科技本身並沒有好壞之別,科技就是科技而已。至於社群媒體,它是一種科技,通常也是一種強化器。重點在我們身上,我們必須確定被強化的是好事,而不是壞事。」

Bullying 霸凌
Photo Credit: Twentyfour Students @ Flickr CC By SA 2.0

Instagram並沒有發明霸凌。只要是人類聚集的網路空間,就會有人被霸凌。上至總統,下至普通人,成人總是將網路霸凌正常化。專家指出,我們的社會失敗了,我們還沒教會孩子網路的運作方式,就放任他們遨遊。他們才剛要開始了解人際中各種權力關係的意義而已。Instagram還說,對抗霸凌不能只靠科技公司的力量,還得仰賴父母、學校和孩子自己的努力。

在德州,Kennis一家人找到了新的起點。她的母親Michaela說,她不認為女兒的死是Instagram的責任。她的女兒就像大部分遭受網路霸凌的孩子一樣,在現實生活也受人欺凌。但她也認為,社群媒體在今日社會過於盛行,若想解決這個問題,靠得不是更多的科技,而是相反。時至今日,社群媒體已成為生活的重心,要求受霸凌的孩子把電腦關掉或刪掉帳號,一點也不實際。

Michaela說,線上、線下世界的距離必須拉開,只有喘息的空間是不夠的。她說:「有了社群媒體,你連逃也不知道可以逃去哪。」

© 2019 Time Inc. 版權所有。經Time Inc.授權翻譯並出版,嚴禁未經書面授權的任何形式與語言版本轉載。

責任編輯:丁肇九
核稿編輯:翁世航