IT 之家 12 月 12 日消息，近日，埃隆・馬斯克旗下 AI 公司 xAI 推出了全新的人工智能聊天機器人 Grok，并面向美國地區的 Premium+ X 用戶開放。據官方介紹，Grok 采用了名爲 Grok-1 的模型，與目前 OpenAI 旗下 ChatGPT 所使用的 GPT-4 模型完全不同。值得一提的是，Grok 還整合了 X 平台的實時數據，能夠根據 X 平台的最新動态提供實時回應，這也是其與其他競争對手的顯著差異之一。
然而，就像所有 AI 聊天機器人一樣，Grok 也存在 " 幻覺 " 問題，即生成包含虛假或誤導信息的回應。這種現象在所有大型語言模型（LLM）中都普遍存在，包括 ChatGPT。
近日，一個 Grok 尴尬的 " 幻覺 " 在社交媒體上引起熱議。有用戶在使用 Grok 時收到回應稱：" 我無法完成您的請求，因爲它違反了 OpenAI 的用例政策。"
IT 之家注意到，xAI 工程師 Igor Babuschkin 對此解釋道，Grok 在訓練過程中使用了大量網絡數據，很可能在其中包含由 OpenAI 生成的文本，導緻出現了這樣的 " 幻覺 "，他稱：" 不過請放心，這個問題非常罕見，我們已經意識到了它，并将确保未來的 Grok 版本不會出現類似的問題。請放心，Grok 的開發沒有使用任何 OpenAI 代碼。"
如何避免類似事件的發生，以及如何讓 AI 聊天機器人更安全、更可信，将是未來 AI 研發的重要課題。
