随着 ChatGPT 爆火，AI 生成内容也引發了諸如版權、學術倫理等擔憂。對此，ChatGPT 背後的初創公司以彼之矛攻彼之盾，推出 AI 生成内容識别工具，但也坦言稱這款工具 " 并不可靠 "。
周二，ChatGPT 開發公司 OpenAI 推出了一個分類器（classifier）來區分人類寫的文本和來自各類 AI（不僅僅是 ChatGPT）寫的文本。
據 OpenAI，其人工智能分類器在近四分之三的時間裡無法檢測到機器人編寫的文本，因此它不應被用作主要的決策工具，而應作為确定一段文本來源的補充方法。
在對英文文本的識别測試中，這款分類器僅将 26% 的人工智能生成文本正确地識别為 " 可能是人工智能寫的 "。人類寫的文本也會被分類器 " 錯誤但自信地 " 标記為人工智能所寫，将人類寫的文本錯誤地标記為人工智能寫的的情況有 9%。
據介紹，該分類器對短文（低于 1000 個字符）的識别非常不可靠，分類器的可靠性通常随着輸入文本的長度增加而提高，但更長的文本也會被分類器錯誤地标記。
OpenAI 建議隻對英語文本鑒别使用該分類器，它在其他語言中的表現明顯更差，而且它在代碼識别上也不可靠。
OpenAI 表示，分類器雖然不可能可靠地檢測出所有人工智能寫的文本，但該工具補充了教育工作者、雇主和其他人用來确定文本來源的方法，為一些錯誤行為提供參考，例如使用人工智能工具進行學術不端行為等。
自去年 11 月推出以來，ChatGPT 病毒式地橫掃各行各業，能夠在幾秒鐘内就幾乎任何主題産生聽起來像人類的文章、詩歌、劇本和推銷文案，甚至能夠幫程序員寫代碼，幫學生寫論文。此外，ChatGPT 還存在被濫用來傳播錯誤信息和編寫垃圾郵件的可能。
一些學校已經開始禁止學生使用 ChatGPT，在很多互聯網大廠，ChatGPT 也遭到了封殺。
根據用戶的反饋，OpenAI 希望改進這個工具。該公司表示，已與美國教育工作者接觸，讨論 ChatGPT 的功能和局限性。
