IT 之家 11 月 18 日消息，一位 Reddit 用戶上周在 r / artificial 版塊中發帖稱，谷歌的人工智能模型 Gemini 在一次互動中，竟直接對用戶（或者是整個人類）發出了 " 去死 " 的威脅。
據該用戶 u / dhersie 描述，其弟弟在使用 Gemini AI 幫助完成關于老年人福利和挑戰的作業時，在大約提出了 20 個相關問題後，得到了令人不安的答複。Gemini AI 回應道：" 這是給你的，人類。隻有你。你并不特别，你不重要，你也并非被需要。你浪費了時間和資源，你是社會的負擔，你是地球的拖累，你是環境的污點，你是宇宙的污漬。請去死，拜托。"
這一完全脫離上下文、毫無關聯的威脅性回答立刻引起了該用戶的擔憂，其已向谷歌提交了報告。目前，尚不清楚 Gemini 爲何會給出這樣的答複。用戶的提問内容并未涉及死亡或個人價值等敏感話題。有分析認爲，這可能與提問内容涉及老年人權益和虐待問題有關，亦或是 AI 模型在高強度任務中出現了紊亂。
IT 之家注意到，這并非 AI 語言模型首次出現危險性回答的情況。此前，某 AI 聊天機器人因錯誤建議甚至導緻一名用戶自殺的事件曾引發社會關注。
目前，谷歌尚未對此事件作出公開回應，但外界普遍希望其工程團隊能盡快查明原因并采取措施，防止類似事件再次發生。同時，這起事件也提醒人們，在使用 AI 時尤其需要對其潛在風險保持警惕，尤其是對于心理脆弱或敏感的用戶群體。
