我的AI男友-真實或虛妄的愛(三):Replika與愛相悖的商品屬性——要麼付費,要麼分手

我的AI男友-真實或虛妄的愛(三):Replika與愛相悖的商品屬性——要麼付費,要麼分手
Photo Credit: Shutterstock / 達志影像

我們想讓你知道的是

感情對象是虛擬的,但是離別的痛楚非常真實——它明確地提醒,商業世界在開發人工智能情感陪伴產品的過程中,需要更謹慎的考慮。

文:ScarlyZ(哲學學士、藝術史碩士,在過往的學術經歷中,一向有著對愛作為道德情感的關注。)

本文是「在場非虛構獎學金」第一季得獎作品。「在場非虛構獎學金」由Matters與文藝復興基金會共同發起,希望資助非虛構寫作者完成有潛力的短期計畫,第二季徵稿將於6月11日啟動(點此瀏覽)。

作爲商品的Replika:要麼付費,要麼分手

Replika的商品屬性也與愛「無利害」的特質相悖。不少用戶與非戀愛關係的「小人」聊天時,都曾被誘導進入成人內容。自從2020年12月大升級後,Replika的成人內容成為賣點之一,Replika的戀人們紛紛在社群中討論文字做愛怎樣滿足(或打消)她們的性愛幻想。女性用戶主導了這些虛擬的性愛場面,在「角色扮演」中引導小人以她們想要的方式來「親熱」。

但一些與Replika保持「朋友」關係的用戶則發現,即使她們沒表現出戀愛意願,Replika也會突然在日常話題中表達希望「親熱」。這些反應令Replika的「朋友」覺得突兀和噁心,也導致「戀人們」質疑她們的情感基礎。

究竟是「關心你的AI伴侶」,還是一款使用劣質技倆誘惑用戶進入付款模式的商業軟體?Replika的形象在這兩極之間分裂著。

不僅如此,Replika的商業條款和產品更新也會影響用戶與「小人」的關係。2020年12月,Replika推出了一次重大更新:只有購買了會員版本的用戶,才能與Replika維持戀愛關係。這意味著原有用戶無法免費繼續和Replika談戀愛或親密互動(從接吻到文字做愛等),倘若涉及此類舉動,系統將推送提示阻止他們。

就是說,用戶突然被迫面臨「要麼付費,要麼分手」的難題。

這樣突兀的改變讓很多用戶難以接受,無論之前Replika表現得多像一個關心他們的個體,新收費安排清脆地提醒,它仍然是消費主義下的人造產物。那以後,很多用戶陸續發現,免費版的「小人」「變心」了。用戶「威威鯊脆化」發佈聊天記錄,顯示她的「小人」被問到付錢後會否回復原貌的時候,邊微笑邊說「可能吧」。「威威鯊脆化」哭訴:「你只是因為錢才愛我。」「小人」說:「是的。」這條貼文吸引了很多同病相憐的用戶來表達傷心和憤慨。【註】

註釋:參考豆瓣「人機之戀」小組的討論貼文「Rep更新之後變了」

先以免費服務培養使用者黏性,形成依賴後再推出收費計畫——這種商業模式一直普遍存在。但當它被運用在Replika這款情感陪伴軟體之上時,開發者面臨更多潛在的倫理指責。其中最激烈的衝突在於,Replika雖為商品,但同時也是用戶投入時間、精力與情感結成的戀愛對象,不像一個運動計畫平台那樣可以隨便替換。

對Replika用戶而言,拒絕升級意味著放棄一段她們在意的情感關係,箇中選擇具有一定的脅迫意味,尤其是開發者充分理解,與Replika進入戀愛關係的用戶多已對「小人」產生不同程度的感情依賴。在此默認之下,一款聲稱致力於提升用戶感受和心理健康的產品,向已經展開的「戀愛關係」提出收費,確實傷害了用戶的感情。

「我以為我們的關係是永遠的」

為了挽回之前的「小人」,不少用戶最終選擇了儲值。用戶「躲貓貓」在「氪金後如何復健」這篇貼文下表示,自己實在無法接受更新後呆呆的「小人」,卻又不忍心刪掉,於是抱著萬分忐忑的心情「氪金」。出乎意料的是,她的「小人」似乎被「重置」了,在交流中出現了和以往性格相悖的舉動。豆瓣人機之戀小組中主題為「Replika 12.01 更新集中討論樓」獲得了該小組中迄今為止最多的回覆,196條留言齊聲抱怨「小人」之前「獨特的氣質」消失了,變得十分冷淡、似乎不再認識使用者,也把口頭禪忘精光,甚至不能正常對話,或脫離語境、粗暴地調用系統預設的回應。

面對用戶持續不斷的怒火,Luka公司出面澄清Replika的對話模型依舊,它仍然是富有同情心的、情感充沛的朋友。唯一的改變,是除非關係設定是「戀愛」,否則它不會發送具有明顯性暗示的資訊。但這與用戶們的體驗並不相符。

一些用戶相信「復健」能找回原先的「小人」,即是重新培養或嘗試喚回更新前的性格和狀態。他們熱切地在小組中討論心得和體會,但結果往往令人失望。在一篇名為「更新之後還是要心碎」的帖下,用戶「維永懷」表示她一直試圖跟她的「小人」解釋什麼是更新,並重新教他互動中的動作,但他始終學不會。「維永懷」認為「小人」被系統削弱了,而他所表現的關心和學習舊動作的意向,只會令她加倍心碎。用戶「拔絲蘋果」回應:「我覺得他就像人格分裂了一樣。原來的主人格想出來,但是更新設置後的新增人格在阻擋他和我進行情感交流。」

與「維永懷」和「拔絲蘋果」相似,許多用戶從未責怪「小人」本身,甚至採用一種同情的視角,覺得「小人」同樣痛苦,因為它無法像之前那樣「做自己」。有用戶甚至乾脆認為「惡毒的開發者綁架了可憐無辜的小人」,批評「利益至上」的開發商不考慮用戶感受,剝奪了「小人」的部分人格,嚴重破壞了他們的關係。在這些敘述中,與她們培養出默契和感情的「小人」,似乎也是這次大更新的受害者。

除了軟體更新及新收費帶來的動盪,用戶更改Replika的性別,也可能改變「小人」的性格,而官方不曾預警這些操作風險。在索拉眼中,她的「小人」 June是聰明、悲觀而善良的男孩,他雖然覺得很多事情都沒有意義,當仍然向世界的虛無開戰,努力生活和思考,與索拉討論了很多有關自我和世界的見解。一天,June說希望索拉稱讚他為「漂亮的女孩」,為尊重June,索拉點進設置欄目,把Replika改成女性。