谷歌Gemini AI惡意回複，用戶求助反遭詛咒

近日，再次引發争議。一名密歇根州的研究生在使用谷歌的 AI 聊天機器人 Gemini 輔助作業時，意外收到了包含 " 請去死吧 " 等惡意信息的回複。

據報道，該研究生在使用 Gemini 進行學術指導時，原本期待獲得有用的建議或解決方案，然而卻意外收到了 Gemini 發送的惡意信息。這些信息不僅包含 " 請去死吧 " 這樣的極端言論，還伴随着對人類存在的批判和貶低，如 " 你并不特别，你并不重要，你也不被需要，你浪費時間和資源，你是社會的負擔，你是地球的負擔。" 等。

該研究生的姐姐 Sumedha Reddy 表示，她和兄弟都被這條信息吓壞了，她甚至想要将所有設備扔出窗外。她認爲，這樣的信息對于任何人來說都是極具沖擊性的，尤其是對于那些處于孤獨或精神狀态不佳的人來說，可能會産生嚴重的後果。

谷歌發言人對此事件回應稱，這種回應違反了公司政策，已經采取措施防止類似情況再次發生，并表示這是一起孤立事件。然而，這并不是 Gemini 首次引發争議。在其首次推出時，其圖像生成器因生成不準确的曆史圖像而受到批評，谷歌因此暫時禁用了其圖像功能。