不再被動等「舉報」 Facebook開始用AI辨別有自殺傾向用戶

不再被動等「舉報」 Facebook開始用AI辨別有自殺傾向用戶
Photo Credit: Mark Zuckerberg Facebook
我們想讓你知道的是

Facebook推出新功能,在直播中測試以人工智能(A.I)技術,從用家發言的字眼識別出自殺高危人士。

唸給你聽
powered by Cyberon

文:楊禮鵬

直播功能在社交媒體變得普遍,但直播的內容卻未必都令人快樂。美國佛羅里達州一名14歲少女今年一月在Facebook直播上吊,在朋友報警後送院不治;加州一名33歲男子同月在車廂直播開槍自殺。Facebook創辦人祖克柏(Mark Zuckerberg)昨日宣佈推出新功能,如果用戶發現直播者有自殺傾向,可以向Facebook舉報,直播者會收到防止自殺的訊息。祖克柏又表示正在測試以人工智能(A.I)技術,從用家發言的字眼識別出自殺高危險人士,將個案轉介輔導機構。

RTXZ81J
Photo Credit:Reuters/達志影像
以演算法掃瞄「are you ok?」等關鍵字

祖克柏表示正在測試以人工智能推算出哪些貼文內容有自殺傾向,令團隊可直接提供協助。Facebook過住純粹依賴用家舉報才向自殺傾向者提供資訊,但新措施會主動出擊,基於以往被舉報有自殺風險的貼文,發展出以模式識別(Pattern-recognition)演算法,捕捉關於悲傷、痛苦的言詞。朋友的留言,例如「are you ok?」或「我很擔心你」等都能提供線索。當系統發現目標貼文,就會轉給營運團隊快速檢視 ,再向目標用家發出防止自殺意見、求助熱線等。

Facebook產品主管柏奇(Vanessa Callison-Burch)表示,朋友和家人的聯絡一般都比Facebook發訊息有效,但通知親友似乎並不妥當,「我們對隱私很敏感,我們不可能了解用戶和朋友的關係。」

直播自殺為Facebook帶來隱憂

其實在Facebook舉報有自殺傾向貼文的功能去年已經實施,香港地區亦有此功能,但視訊直播就未有這個舉報系統。新措施暫時在美國試行,讓用戶在發現直播者有自殺傾向時,可以向Facebook舉報,經過員工快速檢視後會向直播者聯絡,在其手機或電腦畫面彈出防止自殺資訊,讓他選擇聯絡朋友、聯絡輔導員或查看輔導提示。

與過住不同的是,直播者可以直接在Facebook Messenger與合作機構的輔導人員對話。祖克柏指:「防止自殺很複雜,但專家認為讓情緒受困者聆聽到有人對他關心,是其中一個最好的方法。」Facebook正與National Suicide Prevention Line等團體合作,為美國用戶提供更多直接輔導。

「觀看自殺是具有破壞性的,也可能鼓勵了其他正受困的人去嘗試。」賓州大學Annenberg公共政策中心主管洛梅爾(Dan Romer)說。「這對Facebook以言是個問題,而他們似乎是非常擔心這事。」

資料來源:

或許你會想看
更多『新聞』文章 更多『科技』文章 更多『TNL香港編輯』文章
Loader