當我(一次又一次天真地)以爲 OpenAI 這場風波要塵埃落定時,它總能以《繼承之戰》編劇都沒法寫出來的方式反轉。
在超過九成 OpenAI 員工徹底撕破臉,聯名要求董事會解散,并迎回 Sam Altman 後 ,董事會還沒放棄抵抗。他們甚至找到了競争對手 Anthropic,試圖讓兩家公司合并。
董事會希望說服 Anthropic 的聯合創始人兼 CEO Dario Amodei 接任 CEO,以完成四天更換四個 CEO 曆史壯舉。
Dario Amodei 也曾是 OpenAI 高管,他離職後創立的 Anthropic 主推安全的 AI,旗下聊天機器人 Claude 是 ChatGPT 的競品。
分析認爲,如果 OpenAI 和 Anthropic 真合并了,那簡直又是一場混亂的開端,因爲兩家明星創業公司背後是幾家科技巨頭在 AI 領域布局的站隊。
微軟和 OpenAI 一隊,Anthropic 則和亞馬遜以及 Google 簽了數十億美元的雲計算協議,兩家巨頭也都有投資 Anthropic。
目前 OpenAI 已經處于分崩離析的邊緣,競争對手開始招募流出的大批人才,同時 OpenAI 的大客戶也在考慮轉投 Anthropic、微軟或 Google 等公司
在我們繼續追蹤事态發展的同時,也回顧一下這場劇變的起始點 —— OpenAI 的内部矛盾。《大西洋月刊》在最新的一篇報道中,挖出了内部深埋已久的理念沖突。
OpenAI 的混亂,從 ChatGPT 發布那天就開始了
1. OpenAI 原本沒打算發布 GPT-3.5。2022 年秋季,OpenAI 原本在籌備發布 GPT-4。但有傳言稱 Anthropic 也要發聊天機器人,于是 OpenAI 管理團隊在 11 月宣布幾周後就要發布産品,選用了當時相對完善的 GPT-3.5。
2. 沒人料到 ChatGPT 的成功。ChatGPT 的發布很低調,低調到公司裏好些員工都不知道 OpenAI 發布了它。當時知情的員工還在賭能引來多少用戶,最多隻猜到一萬用戶。結果,上線五天用戶數就突破了一百萬。
3. ChatGPT 不僅讓服務器宕機,也讓檢測工具失效。團隊做了一個流量監測工具,可追蹤用戶行爲,理解用戶在如何使用這個工具,協調潛在危機和濫用。ChatGPT 的爆火讓這個工具重複崩潰。
4. OpenAI 的安全團隊勸産品團隊減緩産品更新速度。ChatGPT 發布後用戶數快速增長,安全團隊未能跟上應對安全隐患和惡意使用。随後,産品團隊不顧安全團隊提醒,堅持乘勝追擊,接連推出了付費版 ChatGPT 和開放 API 接口。
5. 詐騙危機。随着 ChatGPT 和 GPT-4 的廣泛應用,也有人找到了漏洞。有用戶開始大規模創建新賬号,以獲取每個新賬号帶來的 20 美元優惠。阻止這些詐騙成爲了 OpenAI 當時的首要任務,原本被分配到不同領域的小支安全團隊成員被安排專注于解決這個問題。
6. 壓力之下,一些員工甚至出現了精神健康問題。公司内部的溝通情況很糟糕,員工隻有在發現同事在 Slack 上消失時才知道他們被解雇了。
7. 「感受下 AGI(feel the AGI)」。技術進步之快,首席科學家 Ilya Sutskever 愈加确信 AGI 終會實現,他的行爲也越來越像某種「精神領袖」,口頭禅是「感受下 AGI」,意指大家已經很接近實現 AGI 的目标了。Sutskever 曾在社交媒體發文「如果你能感受到 AGI,你就應聘 OpenAI」。在 OpenAI 的 2022 節日派對上,Sutskever 甚至帶領員工齊聲高呼「感受下 AGI!感受下 AGI!」員工還在 Slack 上做了「感受下 AGI」的 emoji。
8. 信念的另一面,是對 OpenAI 在安全方面不夠重視的擔憂。今年 7 月,Sutskever 和 Jan Leike 帶領成立了「Superalignment(超級對齊)」團隊,研發更多上遊 AI 安全技術,獨占公司 20% 現有計算芯片,準備迎接在這個十年内即将到來的 AGI。「對齊」的意思是讓 AI 隻做人們想讓它們做的事。
9. 今年的一次内部活動中,Sutskever 甚至還定制了一個木雕像以代表「不對齊的 AI」,然後一把火燒了,代表 OpenAI 做對齊 AI 的決心。
10. 今年 10 月,矛盾升溫。知情人士稱,Altman 意在削弱 Sutskever 在公司的影響力,引發了和董事會間的沖突。
11. 11 月 6 日開發者大會,Altman 宣布推出可定制 GPT 功能 ,Sutskever 徹底怒了,帶着憂慮去找董事會。
12. 11 月 17 日,Altman 在線上會議被董事會辭退。
13. 面對衆多 Altman 将回歸的傳聞,馬斯克在 X 上表示如果 Altman 真的回歸,他會很擔心。因爲「 Ilya 有很好的道德準則,不會追尋權力。如果不是覺得必須要動手的話,Ilya 不會有這樣極端的行爲。」
14. 11 月 20 日,Sutskever 對員工表示,Altman 并不會回歸 OpenAI 擔任 CEO。亞馬遜旗下直播平台 Twitch 的聯合創始人 Emmett Shear 将擔任 OpenAI 臨時 CEO。
混亂背後:Sutskever 和 Altman 的理念沖突
1. 主導 OpenAI 前沿技術發展的首席科學家 Ilya Sutskever 師從「AI 教父」Geoffrey Hinton,主張謹慎地應對 AI 和 AGI 的安全隐患。
2. Sutskever 的表現一直很出色。他加入 Hinton 團隊早期,Hinton 給了他一項很複雜的任務,Sutskever 厭倦了編寫過程要做的計算,告訴 Hinton 自己寫一個程序語言來完成更簡單。當時 Hinton 聽到有點生氣,警告他這可能會耗一整個月且無果而終。Sutskever 坦白說:「我今早其實就做完了。」
3. 業内地位極高。Sam Altman 稱 Sutskever 是其中一位全球最受尊敬的研究者,并認爲把他請來了,能吸引更多 AI 人才。馬斯克直言認爲他是 OpenAI 成功的關鍵人物。
4. 爲了把 Sutskever 從 Google 挖到 OpenAI,馬斯克和 Google 的聯合創始人 Larry Page 鬧翻了。
5. Sutskever 的 AI 觀:技術就像是一種自然力量。把控 AGI 的初誕生至關重要,否則它會遵循類似「适者生存」的法則,優先保住自身存在。就和人與動物一樣,人不恨動物,但當人類要發展,我們就會把建造高速公路的需求放在動物生存之上。
6. 當那篇曆史性論文 「Attention Is All You Need」出來時,Sutskever 是爲數不多能看出其重要性的人:「我們在等的就是這個。」
7. Sutskever 主張将特定價值觀「刻」在超級 AI 中,讓 AI 像動物一樣擁有一些類似「天性」的「銘印」:「最終,AI 将變得非常、非常、非常強大。我們将無法理解他們。他們會比我們聰明得多。到那個時候,強烈的銘印至關重要,隻有這樣,他們對我們的感覺才會像我們對自己的孩子一樣。」
8. AGI 争奪戰無益。Sutskever 認爲如果有多支團隊争先做出 AGI,他們用來保證 AGI 安全性的工作就更少空間了。與之相比,Altman 稱自己更像一個「中間派」,既要保證速度,也要确保其安全性。
9. Sutskever 心中的第一批 AGI 看起來就像超級巨大的數據中心,内置專有神經網絡,極度耗能,耗能約等于上千萬個家庭用電量。這些 AGI 肯定會深度影響社會,但我們不确定誰會受益。
10. OpenAI 前員工說 Sutskever 在内部有很多追随者,稱他是備受尊敬且親力親爲的領袖,對于建設 OpenAI 前沿技術至關重要。OpenAI 前總裁 Greg Brockman 則擅長于将 Sutskever 的研究成果轉化成可用的 AI 産品。
Sam Altman 被罷免事件時間線:
當地時間 11 月 16 日周四晚
Altman 收到 Sutskever 發來的信息,要求于周五中午進行對話。Sutskever 告訴 Sam 他被解雇了,并且新聞很快就會發布。
當地時間 11 月 17 日周五
OpenAI 宣布 CEO Sam Altman 将離開公司,首席技術官 Mira Murati 被任命爲臨時 CEO,這一人事任命立即生效。
OpenAI 董事會在博文中表示,「Altman 先生與董事會的溝通中沒有保持坦誠,阻礙了董事會履行其職責的能力。董事會不再對他繼續領導 OpenAI 持有信心」。
Altman 在 X 平台上發文稱,我很喜歡在 OpenAI 的時光,這對我個人來說是具有變革性的,希望對世界也有一點變革。最重要的是,我喜歡和這麽多有才華的人一起工作。
OpenAI 總裁、董事會主席 Greg Brockman 宣布辭職,他表示對董事會的決定感到震驚和難過。
OpenAI 三名高級研究人員于當地時間周五晚辭職。
當地時間 11 月 18 日周六
Sam Altman 告訴投資者,他計劃推出一家新的 AI 企業。Greg Brockman 預計将加入這一企業,該項目仍在開發中,目前尚不清楚該合資企業的确切性質。
OpenAI 董事會正在與 Altman 讨論重返 CEO 崗位。他對回歸感到「矛盾」,并希望對治理進行重大改變。
當地時間 11 月 19 日周日
Sam Altman 與 Greg Brockman 抵達 OpenAI 公司舊金山總部與高管們會面。
OpenAI 臨時 CEO Mira Murati 計劃重新聘請 Sam Altman 和 Greg Brockman,而同時,董事會成員仍在尋求一位新的 CEO。
OpenAI 董事會選擇聘請亞馬遜遊戲直播平台 Twitch 的前 CEO Emmett Shear 擔任首席執行官,Altman 回歸失敗。
得知 Altman 不會回歸,數十名 OpenAI 員工在内部宣布他們将退出公司。
微軟 CEO Satya Nadella 宣布:OpenAI 創始人 Sam Altman 和 Greg Brockman 及其同事們将加入微軟,領導一個新的高級人工智能研究團隊。
當地時間 11 月 20 日
710 多名 OpenAI 員工要求董事會辭職,否則可能集體投奔微軟
未完待續……