Facebook關掉機器人,但不是因它失控自行發展「秘密語言」

Facebook關掉機器人,但不是因它失控自行發展「秘密語言」
Photo Credit: kuloser CC0 public domain
我們想讓你知道的是

事件中兩個主角,機器人Bob和Alice討論的主題是「球」。

唸給你聽
powered by Cyberon

近日傳出Facebook關掉智能對話機器人項目,原因是研究員發現兩個對話機器人竟然自行發展出一套人類不能理解的語言,有點像電影《智能叛變》(I, Robot)初級版。不過,實際情況卻遠比報導/標題來得「低級」,甚至可以說是同事實不符。

先回看部分媒體對這則新聞起了什麼標題:

  • Facebook AI自行發展語言,專家警告:智能機器人很危險。('Robot intelligence is dangerous': Expert's warning after Facebook AI 'develop their own language',Mirror)
  • Facebook關掉智能機器人因為它發明了自己的語言。(Facebook robot is shut down after it 'invented its own language',Metro)
  • Facebook在兩個機器人開始用人類不能理解的語言對話後,決定關掉人工智能實驗。(Facebook shuts off AI experiment after two robots begin speaking in their OWN language only they can understand,The Sun)

事緣是6月有一份科研學術報告刊出,提到兩個對話機器人的實驗,研究人員又如何改善當中的錯誤。但到了7月底,部分媒體開始報導駭人聽聞的「故事」。又找來「專家」警告智能機器人對人類構成威脅。先別討論機器人發展會否危害人類安全/生活,可以肯定的是,這個實驗中的兩個機器人,Bob和Alice,暫時不會對我們帶來什麼危機。以下是它們的「對話」:

Bob: I can i i everything else

Alice: balls have zero to me to me to me to me to me to me to me to me to

Bob: you i everything else

Alice: balls have a ball to me to me to me to me to me to me to me to me

基本上可以說是完全沒意思的對話。據Facebook的人工智能研究小組網誌,計劃目標是要開發能夠同人或機器展開不同類型對話的機器人。這些對話可能產生一些結論,包括作出雙方都認同的決定。

在實驗階段,兩個機器人所「討論」的主題,就是如何分配一系列物件,包括書本、帽子和球。

問題出在程式員發現並無編寫符合日常英語文法的指令,於是兩個機器人就不斷以不合文法的速記式英語重覆對話。看來可能有點嚇人,但事實是,機器間自有一套機器的語言,這事存在已久,也絕對不是什麼機器人「秘密代號」。

Facebook的確終止了Bob和Alice的「對話」實驗,但並不是因為給嚇壞了,而是因為計劃的目標是要機器人能夠以人類明白的語言文法溝通,這一點上,程式編寫已經改進了。而這項實驗純粹是為了科研,並不包括用於商業產品。

對於事件演變成「智能叛變現實版」,Facebook的研究員怒斥部分媒體為了點擊率作出不負責任的報導,標題是語不驚人死不休,是「沒有編輯嗎?」

相關文章︰

資料來源︰