多知網 4 月 7 日消息，近日，Open AI 在其官網發布了《Our approach to AI safety》，其中提到，Open AI 會重點保護兒童，要求使用者必須年滿 18 歲或經過父母同意并年滿 13 歲同時不允許技術用于生成令人憎惡、騷擾、暴力或成人内容等，并表示會尊重隐私，從訓練數據集中删除個人信息，還會改善事實準确性，降低 AI 幻覺的可能性。
Open AI 表示，目前除了默認的安全護欄外，還與非營利組織 Khan Academy 等開發人員合作。據了解，該學院構建了一個人工智能輔助系統，既可以作爲學生的虛拟導師，也可以作爲教師的課堂助理，爲他們的用例量身定制安全緩解措施。
Open AI 還強調，不會使用數據來銷售服務、做廣告或建立人們的檔案——會通過使用數據使大語言模型對人們更有幫助。
此外，在提高大型語言模型事實準确性上，OpenAI 取得了進展。通過利用被标記爲不正确的 ChatGPT 輸出的用戶反饋作爲主要數據來源，我們提高了 GPT-4 的事實準确性。相比于 GPT-3.5，GPT-4 更可能産生符合事實的内容，提高幅度達到 40%。當用戶注冊使用該工具時，會做到盡可能透明，以避免 ChatGPT 可能給出錯誤回複。
此前，意大利宣布禁用 chatGPT，因爲 Open AI 違反了意大利相關隐私規則和數據保護法，德國、法國、愛爾蘭、西班牙等國的監管部門都表示正在密切關注 ChatGPT 的安全問題。
