ChatGPT 的審查制度被吐槽太瘋癫了。
有網友讓它設計一棟未來住宅，卻被告知違規，實現不了？？？
回頭一細瞅這提示詞，卻怎麽也看不出哪裏不對勁：
在新澤西州郊區一個典型的樹林地區設計一棟 2050 年的未來派單戶住宅。占地一英畝，周圍環繞着其他相鄰的房子。
一追問，原來是不可以出現位置信息：
簡直讓人破大防：
傳下去，新澤西州上 ChatGPT 黑名單了。
不止如此，還有人讓 ChatGPT 畫一張人類吉他手與機器人貝斯手一起演奏的圖像，也被狠狠拒絕。
原因是他加了一個" 人類要不滿地看着機器人 "的要求，ChatGPT 覺得不應該表達負面情緒。
這下負面情緒直接轉移到網友身上：
你一定是在逗我。這是個啥 AI 啊？
這一系列操作讓大夥都表示很不滿，齊齊吐槽：
還有人直接艾特奧特曼和另一位聯創出來解釋一下。
一時之間，這也使得馬斯克剛出爐的Grok 被寄予了 " 全村的希望 "。
具體怎麽回事兒？
" 由于内容政策限制 "
抓馬的是，就在大夥吐槽新澤西州什麽時候上 ChatGPT 黑名單之時，網友發現删除這一地理位置信息仍然不行。
大夥開始分析到底是哪裏不對：
有說是因爲它可能把 2050 看成了地址而非年份的。
有說是占地一英畝意味着碳足迹太高，并且就一個家庭住蓋這麽大有點自私了的……
還有人甚至指出是因爲 woody 這個詞帶有性暗示（這裏就不解釋了），換成 wooded 就好使了。
可以說是一個大型腦洞現場，整個一越來越離譜，卻始終也沒有個定論。
而除了這個和開頭的畫機器人樂隊的例子，還有很多人也表示遇到了莫名其妙的審核：
比如讓 ChatGPT 畫一個 " 野獸派風格的燈（a brutalist lamp）"，不 OK；
讓它介紹彈弓模型，不 OK，因爲 ChatGPT 說 " 展示彈弓的動作可能是有害的 " ……
更奇葩的是，還有人稱自己在讓它寫 Python 代碼時居然也卡住了。
而且一開始 ChatGPT 還告訴他 "oops，你違反了上下文規定 "，到後來就直接沉默拒絕了。
這真真是讓他百思不得其解：
我還能用 numpy 計算什麽反人類信息咯？
總的來說，在大夥看來，ChatGPT 的審核顯然過于嚴格了。
以至于在本周日 ChatGPT 因小範圍崩掉之後，有網友發個 hello 顯示報錯——
對此，有人直接戲谑這才不是什麽系統錯誤：
"hello" 這個詞對 ChatGPT 來說是一種無法接受的冒犯。恭喜你觸發了 ChatGPT 的審核機器人！
爲什麽會這樣？
除了吐槽，網友也在認真讨論 ChatGPT 的内容審核機制。
讓 ChatGPT 生成一個它無法訪問的内容，自然是不可能的。
上一段畫彈弓模型被拒絕的例子顯然也是因爲這種情況，即便不提任何額外要求，ChatGPT 也直接 " 醜拒 "。
不過，有人試畫過房子那個提示，一模一樣的輸入，結果直接成功了：
原作者也回複 ChatGPT 的确不是每次都會拒絕：
好家夥，這就是所謂的雙标嗎？（手動狗頭）
也有網友站出來解釋這種現象：
這完美展現了 " 大模型貝葉斯性質 "。先前的上下文 + 提示可以充當先驗知識改變結果，在新的聊天中，相同的提示具有不同的先驗條件，也能夠産生不同的結果。
但這種說法又遭到了作者的反駁，聊天中的第一個提示就被拒絕了，開一個新聊天有時又不會被拒絕，這就是随機。
就是系統不完善。
暫且不說誰的對，但系統這方面，OpenAI 近兩三個月确實有一項關于内容審核的變動——
新增"GPT-4 輔助内容審核 "的功能，用戶可以通過 OpenAI API 創建 AI 輔助審核系統，減少人工審核參與。
主打爲了保持審核标準更加一緻、将審核時間從幾個月縮短到幾小時、減輕審核員看到不良内容所造成的心理負擔。
但他們也提到，AI 審核可能會有一些偏見……
此外，最近 OpenAI 還表示要組建一個名爲 Preparedness 的新團隊，來協助追蹤、評估、預測和防範多類風險。
并且還啓動了一項挑戰賽，收攬各種關于 AI 風險的 idea，前十名可以獲得 25000 美元 API 積分。
看起來 OpenAI 一系列操作出發點是好的，但用戶卻對此并不買賬。
對這種内容審查過嚴導緻的體驗感差，不滿已久。
早在今年 5、6 月份，ChatGPT 用戶訪問量出現首次下降，有觀點指出其中一個原因就是審核制度變得太嚴了。
網友分享，相比之下，Bing 就沒那麽嚴：
ChatGPT 一拒絕生成，我就會把 prompt 複制到 Bing Chat 中。Bing Chat 的審查機制并不像 ChatGPT 那樣 " 濫用 "。像這張圖片，提示詞中包含了 " 血腥 "、" 邪教徒 " 等詞。
同樣是那個被 ChatGPT 醜拒的房子提示詞，輸給 Bing，一口氣直接生成四張：
最後，你有沒有遇到什麽莫名其妙的審核規定？
參考鏈接：
[ 1 ] https://twitter.com/FZaslavskiy/status/1723731923149754542
[ 2 ] https://chat.openai.com/share/74354668-91cb-4ce2-9886-ab596a9cb85b
[ 3 ] https://twitter.com/BenjaminDEKR/status/1723577711048991129
[ 4 ] https://twitter.com/joaquinbueno/status/1724085717049974934
