近日，不少 Snapchat 用戶感到 " 吓壞了 "，盡管還沒有到萬聖節，但他們卻覺得像是在這個節日已經到來。原因是周二晚上，Snapchat 的 My AI 聊天機器人發布了一個神秘的一秒鍾的視頻，畫面上似乎是一面牆和一個天花闆，以前聊天機器人從未在消息中添加過視頻。
繼而當用戶詢問聊天機器人時，機器保持了怪異的沉默。
由于這個 AI 圖像與牆壁和天花闆相似，很多人認爲 AI 可能在監視他們。一位用戶說：" 我發誓我以爲那是我家的牆壁，尤其是我現在正坐在我的客廳裏。" 另一個人寫道：" 這看起來跟我家的牆完全一樣，差點吓死我。"
這款吓壞衆人的 My AI 聊天機器人，是 Snapchat 于今年早些時候在全球推出的，旨在像朋友一樣回複用戶的消息，使用者可以通過聊天框與機器人對話，機器人将提供瑣事的答案，提供建議，并在用戶與應用程序分享其地理位置時根據位置提供推薦。
不少用戶在社交媒體上分享了該短片的屏幕錄像和屏幕截圖，迅速引發了熱議。對此，Snapchat 稱此次事件爲 " 暫時中斷 "，但該事件已得到解決。随後許多用戶确實反映該視頻已被删除，AI 聊天功能暫時停止回複用戶的問題。
即便如此，仍然有部分用戶在推特上表示，聊天機器人自動發送過來的故事 " 吓壞了我，所以我删除了該應用程序 "，用戶的恐懼也引發了業内人士的熱議，不少專業人士擔心人工智能功能已經進化或變得有知覺。
目前尚不清楚爲什麽故障會導緻發布神秘圖像，不過很多人猜測，此次故障的原因是其正在試驗一種圖像或視頻生成功能，畢竟 Snap 很有可能正在考慮向 My AI 添加新功能，以允許 AI 聊天機器人向 Stories 發布内容。目前，人工智能機器人可以發送短信，甚至可以用圖像給用戶發回快照。尤其是‘ My AI ’是内置在 Snapchat 應用中的聊天機器人，因此不少年輕用戶認爲與 My AI 聊天機器人對話，以及得到它的反饋很有趣—— " 當它開始通過故事表達自己時，就好像它有自己的想法一樣，我可以像和真人對話一樣與其交流。"
與其他一些 AI 工具不同，Snapchat 的版本有一些關鍵的區别：用戶可以自定義聊天機器人的名稱，爲其設計一個自定義的 Bitmoji 頭像，并将其引入與朋友的對話中。總體效果是，與 Snapchat 的聊天機器人交流可能會感覺不那麽事務性，就好像訪問 ChatGPT 的網站一樣。
但自 4 月份推出以來，這款工具一定程度上受到了家長們的反對，還受到了一些 Snapchat 用戶的批評，主要是涉及隐私問題、‘可怕’的對話内容以及除非付費訂閱，否則無法從聊天記錄中移除該功能。
從技術角度來看，其本身是由 OpenAI 的大型語言模型（LLM）來技術提供支持，類似于 ChatGPT。它能機智地回答問題，并推薦 Snapchat 的功能，讓人感覺像是一個時髦的年輕人與在線的好友聊天。
顯然，作爲 OpenAI 訓練的大型語言模型，聊天機器人的功能有限，不會像人類那樣思考或感受。然而，它能以驚人的能力模仿人類，這可能會在不可避免地捏造錯誤信息時引發倫理困境。盡管存在這種可能性，Snapchat 仍然将這個功能推廣給全球數億用戶。目前人工智能可能會引發的潛在風險正在引起全球範圍内的關注，如果類似的事件頻發，可能會引起公衆對使用人工智能的更多憂慮。
