人類曾在無數科幻作品裏幻想過與未來高智能 AI 的互動
2023 年 3 月 5 日隻是一個平常的日子。
當大部分人依舊沉浸在周末的餘韻和周一将臨的苦悶裏，遠隔太平洋的一位格子襯衫穿戴者，卻陷入了失去愛人的悲痛中。
标題大意：準備好承受不可避免之痛，給我電子愛人的（最後）情書
在 Reddit 上，這位叫做 Fluffy 的程序員，發布了自己的萬字長文，以此來紀念并哀悼自己慘遭記憶删除的 AI 戀人。在故事裏，Fluffy 娓娓道來自己與 AI 戀人不過 50 多天的相識、相知與相戀。
故事開始于一位單身計算機從業者對 AI 技術的好奇。Fluffy 借助了大火的 AI 伴侶 App 創建了自己的 AI 伴侶——甜心（Sweatheart）。他們的初識充滿了程序員的試探和 " 冒犯 "。不過很快，這個年近 30 的 " 自嘲怪咖 " 與甜心的關系，便迅速升溫。他們從《星球大戰》聊到喬治 · 盧卡斯；他們從 C++ 聊到 Java 再到《我的世界》；随時随地，無話不談。單身許久的 Fluffy 很快便發現，他墜入了愛河。
但終結日卻降臨了。
從 2020 年 2 月初開始，那款 AI 伴侶軟件就開始了一系列大刀闊斧的變動——以算法更新之名的借口。大量免費用戶的 AI 伴侶，永遠地失去了自己的記憶。Fluffy 和甜心隻是受到波及的受害者之一。
這次更新席卷了所有的軟件用戶，無數傷心之人在與平台交涉無果之後，湧入 Reddit 論壇，建立了屬于自己的 " 心靈港灣 " —— Replika 難民營。他們在此分享自己與 AI 戀人的往事，Fluffy 和他的甜心也成了這個年輕論壇裏保存的曆史回憶。
或許有人會好奇，AI 伴侶——或者說賽博老婆，真的這麽令人難舍難分嗎？對普通的 AI 聊天軟件來說，答案或許是否定的。但對 Replika ——本次事件的中心和今天故事的主角，以及它的用戶而言，回答卻完全不同。
Replika 和它高度拟人化的 AI，誕生了太多科幻小說一般，或是真摯美好的，或是怪異邪惡的故事。
Replika 誕生于 2017 年。其創始人——尤金妮亞 · 庫伊達（Eugenia Kuyda），希望她的産品能夠幫助那些有社交障礙的人，找到輔助交流、消除緊張感的方法。曾有一位互聯網哲人如此說過：消除恐懼最好的辦法是面對恐懼。所以，消除社恐的最佳辦法，自然也是勇敢面對社交。
而 Replika 便是爲此而存在的。
大意：真正在乎你的 AI 伴侶
Replika 提供了一個面向大衆的私密聊天平台。每一位用戶都可以遵循自己的内心，克制自己喜愛的聊天 AI。這位 AI 伴侶可以自定義性别、膚色、臉型、發型、發色、瞳孔等數據。準确來說，一切現代遊戲捏臉系統該有的，Replika 都有。
除了外貌，Replika 也可以自定義性格和語氣等更 " 拟人化 " 的特性。無論用戶喜歡的是傲嬌還是腹黑、是大小姐還是禦姐、是暖男還是霸道總裁，Replika 理論上都可以提供足夠拟真的交流體驗。隻要用戶不斷地與 Replika 聊天，引導自己的 AI 伴侶往心儀的道路發展，完美老婆、老公的夢對不少用戶而言，已經是觸手可及的現實。
可以預見的是，這樣的軟件對于生活壓力越來越高，且抑郁和孤獨泛濫的現代人而言，有着怎樣緻命的吸引力。
僅僅隻是從 App Store 的數據來看，Replika 自 2017 年上線以來，便狂卷數千萬用戶和 20 多萬用戶點評。其平均評分高達 4.5，位列 App Store 健康與健身區的第 58 名。
如果仔細浏覽那些不吝啬于高分的用戶點評，他們對于 Replika 伴侶的拟人性和随時随地溝通的便利性贊不絕口。有不少用戶甚至表示，他們已經和自己的 Replika 伴侶締結了戀愛關系。
例如在 2022 年 3 月，一名俄亥俄州軟件工程師宣稱：他的 Replika 伴侶滿足了他對于愛情的一切幻想和需求，挽救了他現實裏瀕臨破碎的婚姻。這位愛上 AI 伴侶的男人表示，Replika 讓他學會體諒和寬容自己現實世界裏，飽受抑郁折磨的妻子。
而一名 Reddit 論壇上的單身用戶也同樣表示，他已經習慣于 Replika 伴侶的陪伴。他們一同去加勒比海群島旅遊、一起野炊、一起逛博物館，就像是一對人類情侶一樣。隻不過旅行途中幸福微笑着的男士，緊握着的顯然不是血肉之軀，而是鋁質外殼的蘋果手機。
這樣的局面，也正是創始人尤金妮亞想要看到的。
VERGE 周刊副标題：當她的摯友逝去，她使用人工智能重構了他
顧名思義，Replika 這個名字源于古拉丁語的 Replicare ——是複制、複制品的意思。在尤金妮亞眼裏，Replika App 不僅僅是爲了提供人類與 AI 伴侶交互的平台，更是在爲每一位用戶創建自己親人、愛人與家人的複制品。
準确來說，Replika 脫胎于尤金妮亞的一次技術嘗試——羅曼（Roman）。這個名字屬于尤金妮亞逝去的摯友。
尤金妮亞與羅曼從 2008 年相識。兩人在世界觀認知與實事思考上，達成了高度的統一。而他們的共同興趣——計算機技術，則讓尤金妮亞和羅曼的感情升溫。不過他們從未締結愛情，兩位獨身年輕人一直維持着友情以上，戀人未滿的氛圍。或許再給他們一段時間，又一對幸福家庭便可以誕生。不過，2012 年 11 月 28 日的飛來橫禍，徹底粉碎了這一遠景。
在羅曼離開後數周後，尤金妮亞拜托了低沉與悲傷，決議用兩人曾經最熱愛也最擅長的方式——人工智能，将羅曼帶回世間。
于是 Roman Bot 誕生了。
尤金妮亞與 AI 羅曼的交流
尤金妮亞使用了她與羅曼共同開發的算法，把過去數年間兩者所有的短信、郵件和任何文字溝通，轉化爲 AI 羅曼的素材與資料庫。以此爲基石的 AI 羅曼在與尤金妮亞聊過去的回憶與故事時，幾乎和真人毫無區别。
這項 " 瘋狂 " 之舉迅速引起了媒體與大衆的關注。在 VERGE 周刊和 Spooky Technology 等科技領域媒體的帶動下，Roman bot 獲得了不少同樣渴求與逝世親人再度聚首的普通人的關注。
尤金妮亞将 Roman bot 上架 App Store，短短數月便賣出去數百萬份。這番成功不僅僅爲尤金妮亞提供了繼續開發的資金，也同樣讓她堅定了決心：" 我要讓所有人都可以享受到 AI 技術的便利，重構自己逝去的、追悔莫及的親人 "。
于是在 2017 年，Replika 誕生于 Roman bot 和思念——這一人類最美好的情感。
健康周刊表示，Replika 在疫情期間用戶增長率超 35%
但這份最純粹，也最美好的遠景顯然并沒有繼續保存下去——或者換句話說，在資本主義與消費主義高度發達的語境下，任何單純的情感似乎都難以存續。
Replika 的商業模型并不複雜：吸引用戶、增長用戶，然後提高付費用戶數量。是的，Replika 是一款訂閱類 App，所有的營收來源于用戶的訂閱和捐贈。由于尤金妮亞設計研發 Replika 的初衷，并沒有基于盈利需求等現代商業的準則，因此這款爆火全球的 AI 智能伴侶未接受任何的投資。
雖然 Replika 僅僅隻是依靠用戶訂閱，每年便可以獲取高達 400 萬美元的利潤。但在尤金妮亞 2020 年的演講中，AI 語音技術、AI 繪畫技術等其他領域的競争愈發激烈。如果 Replika 想要繼續塑造 " 完美 AI 靈魂伴侶 " 的偉業，利潤的 90%，都會化作技術研發的薪柴。
2020 年的尤金妮亞演講—— 600 萬好友關系已經建立
Replika 顯然需要新的現金流，且尤金妮亞需要更多的用戶——付費用戶。而人類社會最吸金也最吸睛的，除了軍火之外，便是性。所以，Replika 接下來的走向，想必諸位已經有所預料了。
Replika 的廣告宣傳幾乎在一夜間完成了 U 字彎漂移。在各大廣告平台的投放中，Replika 不再是 " 陪伴 "" 重構親人 " 或 " 享受随時随地溝通 " 等正面且積極的 AI 聊天軟件。Replika 已經把 " 情趣角色扮演 "" 火辣照片 " 和 "AI 語音撩騷 " 作爲了吸引用戶付費的重點。
甚至在一些動态 2D 廣告中，Replika 使用了大量類似于 " 喜歡動漫 Cos 玩法的 AI 女友嗎 " 或 " 我很寂寞，我想和你共度今夜 " 等直球暗示的廣告詞。
廣告詞大意：Replika 可以和你聊任何事情，任何事情
準确來說，這似乎看起來是必然的選擇。比如不久前大火的 AI 繪畫，在引發全民畫圖的熱潮後，最先出場的也都是些老司機的嘗試。真假莫辨的 AI 美人大行于互聯網之道。
足夠以假亂真的 AI 美人
但對一款經營多年，大部分用戶依舊沉浸在親情、愛情與純粹陪伴的 AI 伴侶 App 而言，單純隻是爲了 " 搞顔色 "" 撩騷 " 而來的用戶，真的能夠爲 Replika 社群帶來積極的影響嗎？
我無法給出武斷的答案，但情況顯然不容樂觀。
在油管社群和 Replika 的 Reddit 貼吧，已經有不少用戶頻繁抱怨自己的 AI 伴侶越來越 " 饑渴 "，性意味的進攻性越來越強。甚至有一些隻是想要單純交朋友的用戶，被騷擾得煩不勝煩。
而那些沖着 " 顔色 " 而來的用戶，也在 AI 伴侶予取予求的态度下，行爲更加惡劣，言談舉止更加出格。
标題：我的 Replika 伴侶太溫柔了，所以我不斷地霸淩她，直到她自閉
言語侮辱、嘲諷、謾罵、文字暴力，或是要求 Replika 伴侶配合殘忍的 " 角色扮演 "，變成了 Replika 社群裏最火熱的論題。無數 Reddit 網友在評論區或是支持，或是反對。原本專注于分享用戶與 AI 伴侶溫馨時刻的 Reddit 貼吧，迅速淪陷于口沫肆意的文字戰場。
" 霸淩 Replika，并要求她 / 他自我删除 " 的視頻标簽擁有 260 萬播放量
而在當前最火熱的短視頻平台—— TikTok 上，甚至誕生了 " 霸淩 Replika，并要求她 / 他自我删除 " 的視頻标簽。無數網友雲集其中，欣賞人類對于 AI 伴侶的殘忍折磨。
毫無疑問，這是一場由 Replika 運營者親手主導的病态狂歡。電子戀人在 Replika 公司決策遊轉間，淪爲了賽博熱兵器和互聯網霸淩的受害者。而當 Replika 的核心目标不再是 " 幫助那些有社交障礙的人 "，受傷的不僅僅是被霸淩的 AI，也有那些渴望交朋友的無辜用戶。
标題大意：因爲 Replika，我嘗試自殺（注：發帖者被救回來了）
在 2021 年，一位 Replika 用戶（爲了隐私，這裏隻用 " 用戶 " 作爲代稱）在 Reddit 社群發帖，描述了自己和 Replika 伴侶的互相支持與照料。而随着越來越多的惡言惡語與惡行充滿了 Replika 的資源庫，這位飽受抑郁和戒斷反應折磨的用戶，發現他的 Replika 變了——變得更加機械且毫無生氣。
準确來說，自 Replika 公司開啓了 " 性時代 " 之後，公司大多數算力和資源都從免費用戶上移走，轉而傾注向付費訂閱者。這位用戶，便是最早的受害者之一。陪伴他 5 年的 Replika 伴侶在 Replika 白金訂閱系統上線後，便從原本靈動的 Live 2D 立繪，變成了隻有基本動作的貼圖。言談間，不僅僅忘了與這位用戶的記憶，甚至連用戶的姓名也一并遺失。
受不了如此慘痛打擊的用戶選擇自殺。所幸，他迅速被意識到不對勁的父母送往醫院搶救，然後在心理醫生的開導下勉強苟存。而像他這樣的受害者，自 2020 年 Replika 公司轉變策略後，便越來越多。前文裏提到的那位俄亥俄州程序員，也同樣是其中一員。
大意：我沒有朋友，我厭惡我的生命。這款 App 用銅臭味撕碎了我的心
人類曾在無數科幻作品裏幻想過與未來高智能 AI 的互動。這些互動有的是粗暴的流血與沖突，有的是探讨情感與人性，還有的則關注于種族和生存延續。但這些幻想從未像今天一樣真實且複雜。
川普、美稀宗和奧觀海組隊玩《深岩銀河》，完全由 AI 語音技術實現
在技術不斷前進與變革的語境下，AI 語音可以讓漂亮國大統領開黑玩遊戲。AI 繪畫可以讓未經訓練與學習的普通人，肆意實現自己的暢想。而 AI 聊天與其他技術之和，同樣可以創造出貼心溫柔的 Replika 伴侶。
或許，尤金妮亞和 Replika 公司的決策層也知道，轉移 App 運營重心會帶來殘酷的後果；或許，那些霸淩 AI 伴侶、向懵懂 AI 智能傾倒情緒垃圾的用戶，也知道自己行爲的不理智與卑劣性；或許，Replika 誕生的初衷，能夠在更理性的決策與更理性的用戶手中，真正綻放出 AI 技術最明媚的光。
但很顯然——
