IT 之家 12 月 2 日消息,亞馬遜于今年 11 月底推出名爲 Q 的 AI 聊天機器人,不過根據國外科技媒體 Platformer 披露的一份内部文件,亞馬遜員工稱 Q 存在嚴重的 " 幻覺 " 問題,并洩露了包括 AWS 數據中心位置、内部折扣計劃等諸多機密信息。
IT 之家 11 月 17 日報道,劍橋詞典(Cambridge Dictionary)近日宣布 2023 年年度詞彙爲 "hallucinate"(産生幻覺)。
hallucinate 原意爲似乎看到、聽到、感覺到或聞到 " 一些不存在的東西 ",通常是指用戶在不良健康或者服用藥物狀态下産生的幻覺。
伴随着 AI 的崛起,hallucinate 延伸爲 AI 産生幻覺,生成錯誤的信息。
報告文件顯示,亞馬遜 Q 會産生幻覺,返回有害或不适當的聊天内容。例如,亞馬遜 Q 會返回過時的安全信息,可能會讓客戶面臨風險。
亞馬遜淡化了員工讨論的重要性,并聲稱沒有發現任何安全問題。然而,洩露的文件引發了人們對 Q 準确性和安全性的擔憂,Q 仍處于預覽階段,尚未正式發布。
一名員工将該事件标記爲 "sev 2",這意味着該事件非常嚴重,需要工程師加班第一時間修複。
Q 被定位爲 ChatGPT 的企業級版本,旨在比消費級工具更安全。然而,内部文件強調了 Q 提供不準确或有害信息的風險。
報道稱 Q 除了存在嚴重的幻覺之外,還洩露了公司機密數據,包括 AWS 數據中心的位置、内部折扣計劃和未發布的功能。
文章發表後,該發言人發布一份聲明,反駁了員工的說法,稱亞馬遜 Q 沒有洩露機密信息。