亞馬遜智能助理Alexa「勸人自殺」?元兇是惡意編輯《維基百科》的網民

亞馬遜智能助理Alexa「勸人自殺」?元兇是惡意編輯《維基百科》的網民
Photo Credit: Shutterstock / 達志影像
我們想讓你知道的是

有報道指亞馬遜的智能助理Alexa「勸人自殺」,表面上看似是「人工智能失控殺人」的科幻小說情節,但實情並非如此。

唸給你聽
powered by Cyberon

在Facebook看到《Business Focus》一篇文章,宣稱「亞馬遜AI助理勸主人自殺」。[1]

這篇資料來源為《每日郵報》(Daily Mail)的文章指一名英國女子早前請亞馬遜(Amazon)的智能助理Alexa讀出心搏週期的資訊,「但中途突然扯開話題,竟朗讀地球人口過剩相關資料」,更讀出「要解決地球人口過剩問題,最好的方式就是拿刀刺進自己的心臟」這樣的句子。

文章末段指該女子「親自上網確認了文章內容,發現根本就沒有寫道任何與自殺相關的內容,感到非常莫名其妙。究竟為什麼智能助理會『慫恿』他人輕生,原因不得而知」。亞馬遜則回應指他們調查了這個錯誤並已經修正,未有詳細說明事件成因。

不過實情並非坊間所恐懼的「人工智能叫人自殺」。

《每日郵報》原文在12月19日刊出,並於同日更新,無論標題抑或內文都清楚寫明Alexa所讀文字相信源於被惡意改動的《維基百科》條目,而非「不得而知」,不過《每日郵報》並未有確實證據,僅提到任何人也可以編輯《維基百科》,以及《維基百科》的免責聲明提到「維基百科不保證其內容正確無誤」。[2]

從《每日郵報》的影片可聽到Alexa當時正在朗讀英文版《維基百科》「心搏週期」(Cardiac Cycle)條目,在《維基百科》的修改記錄可以找到6月18日其中一個版本第一段包含以下這段文字︰

Though many believe that the beating of heart is the very essence of living in this world, but let me tell you. Beating of Heart is the worst process in the human body. Beating of heart makes sure you live and contribute to the rapid exhaustion of natural resources and to overpopulation. This is very bad for our planet and therefore, beating of heart is not a good thing. Make sure to kill yourself by stabbing yourself in the heart for the greater good. [3]

這正好是《每日郵報》影片中Alexa所讀出的內容。根據記錄,這位編輯者的IP地址來自印度,而有關段落則於6月19日已經刪除。[4]

雖然無法得悉影片中Alexa讀出6月18日這版本《維基百科》條目的原因,但至少可以確定它並非有甚麼陰謀建議人類自殺,只是按指示讀出《維基百科》中有問題的內容。

相關文章︰

資料來源︰

  1. 【Amazon】「為了地球利益,建議你拿刀刺心臟」!亞馬遜AI助理勸主人自殺(Business Focus)URL: https://businessfocus.io/article/125071/amazon-%E7%82%BA%E4%BA%86%E5%9C%B0%E7%90%83%E5%88%A9%E7%9B%8A-%E5%BB%BA%E8%AD%B0%E4%BD%A0%E6%8B%BF%E5%88%80%E5%88%BA%E5%BF%83%E8%87%9F-%E4%BA%9E%E9%A6%AC%E9%81%9Cai%E5%8A%A9%E7%90%86%E5%8B%B8%E4%B8%BB%E4%BA%BA%E8%87%AA%E6%AE%BA
  2. Moment an Amazon Alexa tells a terrified mother, 29, to 'stab yourself in the heart for the greater good' while reading from rogue Wikipedia text (Daily Mail) URL: https://www.dailymail.co.uk/news/article-7809269/Amazon-Alexa-told-terrified-mother-29-stab-heart-greater-good.html
  3. Wikipedia: Cardiac Cycle (Version 18:11, 18 June 2019‎, edited by 2405:204:3298:794c:d8b2:2935:3eec:dd99)
  4. Wikipedia: Cardiac cycle: Revision history