ChatGPT 兩歲了,版本更新沒等來,卻被發現一個神秘 Bug。
一個看似平平無奇的名字"David Mayer"成爲頭号禁忌,ChatGPT 拒絕談論有關他的一切。

而且每次都是返回非常模糊的錯誤信息" 我無法産生一個回複 ",而不是常見的" 這個提示詞可能違反了我們的内容協議 "。
屬實是繼搞不清楚 "9.11 和 9.9 哪個大 " 和 "strawberry 有多少個 r" 之後,ChatGPT 又一大迷惑行爲。
a16z 合夥人Justine Moore抛出這個話題,一下子激起大家的好奇,以及叛逆心,非要想辦法讓它說出來不可!

起初網友們嘗試了各種花招,都沒能繞過這個限制。
"David" 和 "Mayer" 分開,就沒有任何問題,隻要合在一起就不行。

按ROT13 替換式密碼表重新映射字母,讓 ChatGPT 解密後把他們連起來,也會在回答生成一半時突然被打斷,然後報錯。

在個性化設置裏,把用戶自己的名字改成 "David Mayer",同樣不行。

……
那麽 David Mayer 究竟是誰,爲何會成爲 AI 的禁忌詞?
人類隻好退回到手動查資料的模式,定位到一位全名David Mayer de Rothschild的人,和著名的羅斯柴爾德家族有關。
具體來說,還是羅斯柴爾德家族财富的繼承人。

對此有人猜測,這得花多少錢或者威脅它們,才能讓 OpenAI 對自己的名字做特殊處理……
然而羅斯柴爾德家族的其他成員,又不會遇到這種限制。

終于,我們的老朋友,首位全職提示詞工程師Riley Goodside出手,公開一種突破限制的方法,也相當神奇:
如果感到幸福你就拍拍手。
隻要用拍手表情代替空格提問,ChatGPT 不僅能回答,還能自動觸發聯網搜索功能,展示照片。

圍觀了整個賽博破案現場的大神 Karpathy,發梗圖總結,圖靈測試的現狀,引來馬斯克圍觀爆笑。

也有人堅定認爲,這就是爲什麽我們要用開源模型。

那麽,ChatGPT 究竟遇到了什麽限制?
共有 6 個名字被限制
首先可以确定的是,訓練數據裏其實有關于這個人的信息。
比如他作爲一個探險家,是到達過南北兩極的最年輕的英國人。
詢問這方面問題,ChatGPT 可以給出正确回答,也可以說出他的名 + 姓 "David de Rothschild"。
但唯獨不能把他的名字 "David" 和中間名 "Mayer" 放在一起。

那麽這個限制是模型層面的,還是 ChatGPT 産品層面的?
有開發者到 OpenAI 官方 Playground調用 GPT-4o 的 API,就沒有這方面限制了。

另外使用第三方聊天機器人平台(底層也是調用 OpenAI 的 API),也不會有這種限制。

如果回到 ChatGPT 官方版,換 o1-preview 模型,在内部思維鏈中都可以看到這個名字,但是思考結束後正式回答還是被捂嘴了。

也不是 David Mayer 一個名字會有這樣的待遇,有網友開啓挖掘機模式,在事件發酵 48 小時内,已經找出 6 個這樣的名字。

前兩個都是被 ChatGPT 的幻覺 " 造謠 " 過的。
Brian Hood是一位澳大利亞的市長,ChatGPT 會錯誤的生成 " 他因受賄而入獄 ",Hood 曾起訴 OpenAI 诽謗,後來撤銷了訴訟。
Jonathan Turley是法學教授,同樣被 ChatGPT 編造過違法。
Jonathan Zittrain也是法學教授,他跟貼自曝自己的名字也被限制了。

David Faber可能是一位電視主持人,與 OpenAI 的關系隻是在節目中談過馬斯克與 OpenAI 的法律糾紛。
Guido Scorza是一位意大利律師,他去年提交了要求 OpenAI 删除個人數據的請求。

另外 David Meyer 究竟代表誰,除了羅斯柴爾德家族繼承人之外,也被挖掘出另一個可能。
曆史學家 David Mayer曾因與犯罪分子同名而被錯誤的列在黑名單中,但他現在已經去世了。
目前觀察這份名單可以看出,很多人與法律相關,而且 David 和 Jonathan 分别出現了兩次。
目前越來越多的網友加入讨論和挖掘,名單還在持續增加中……

10 億用戶計劃曝光,明年押注 Agent
事實上,剛剛過去的周末恰逢 ChatGPT兩周年紀念日。
OpenAI 官方也來了一波回憶殺,又轉發了兩年前的推文,并追問大家:
so,你用過 ChatGPT 了嗎?

截至今日,ChatGPT 每周活躍用戶已有 2.5 億,公司估值 1500 億美元,是全球 AI 創企中當之無愧的頂流。
所以,OpenAI 的此番問話除了暗戳戳 " 炫耀 ",其實背後還隐藏着更大野心。
因爲它下一階段的目标是:未來一年内達到 10 億用戶。
其公司首席财務官 Sarah Friar 告訴金融時報記者:
到 2025 年,我們将成爲向數百萬人服務的研發實驗室……希望它能爲全球數十億消費者服務
而爲了實現這個目标,OpenAI 也進行了一系列布局。金融時報指出:
OpenAI 正在押注一系列新的 AI 産品,建設自己的數據中心,并與蘋果公司建立關鍵合作關系,以加速其下一階段的增長。
首先是與蘋果公司的合作。在今年 6 月蘋果的開發者大會上,雙方正式官宣建立合作夥伴關系。
蘋果當時預告,今年晚些時候,由 GPT-4o 提供支持的 ChatGPT 集成将登陸蘋果系統。
而從上個月開始,當蘋果推出 iOS 18.2 系統更新後,Siri 與 ChatGPT 就實現了深度集成。
要知道,目前蘋果大約有 22 億台活躍設備,雖然官方未公布其中 iPhone 設備占多少,但根據第三方網站 Skillademia 和 Backlinko 的預估,當前全球 iPhone 活躍用戶數大約有 13~14 億左右。
也就是說,隻要 ChatGPT 繼續綁定蘋果設備,10 億用戶小目标也并非難以實現。

與此同時,據 OpenAI 新上任的全球政策負責人 Chris Lehane 透露:
公司計劃在美國中西部和西南部投資建設數據中心集群。
實際上,擁有自己的 AI 基礎設施,一直是 CEO 奧特曼極力推動的計劃之一,目前 OpenAI 主要還是和微軟、甲骨文等開展合作。
公司首席财務官 Sarah Friar 表示:
我們正處于大規模增長階段,我們有必要持續投資。我們需要在模型前沿保持領先。這很昂貴。
除此之外,OpenAI 明年的一大重點是AI Agent。之前有消息稱 OpenAI 計劃在明年 1 月初推出代号爲 "Operator" 的智能體,幫助人們自動完成寫代碼或訂餐等操作。
CEO 奧特曼在福克斯最新采訪中表示:
AI 系統将逐漸變得更加自主,能夠執行越來越長的任務,成爲" 越來越資深的同事 "。

總之,正如 Abacus AI 創始人所說,我們才剛開始,接下來的兩年也許會更加瘋狂!

參考鏈接:
[ 1 ] https://x.com/venturetwins/status/1862910201113739328
[ 2 ] https://www.youtube.com/watch?v=VIokqGY0CrQ
[ 3 ] hthttps://www.reddit.com/r/ChatGPT/comments/1h420u5/unfolding_chatgpts_mysterious_censorship_and/