最終山姆 · 奧特曼（Sam Altman）和 格雷格 · 布羅克曼（Greg Brockman），從舊金山教會區的先鋒大廈走出，揚長而去了。
這個眼下矽谷的心髒地帶從昨天開始圍攏了很多目光，一些開發者接近這座建築，希望能見到奧特曼，這位年輕而權威的 AI 布道者昨天剛措手不及地被自己的董事會踢出局。
直到奧特曼拿着訪客證回到 OpenAI 總部，OpenAI 首席科學家伊爾亞 · 蘇茨克維（Ilya Sutskever）的推特仍然停留在 10 月 7 日。
六人的董事會陣營裏，三人來自 OpenAI，其中兩位在一天内雙雙出走，這件事的背後推動者在第一時間指向了留下的那一位，也就是伊爾亞。
在僅有的幾次 " 露面 " 中，是伊爾亞代表董事會通知了奧特曼關于罷免的決定，也是他進一步澄清了奧特曼哪怕回歸 OpenAI 也不會繼續擔任 CEO 的事實。在一些零碎的報道裏，伊爾亞跟他在 OpenAI 的同事提起，把奧特曼踢出局是 OpenAI 能夠沿着正确道路做 AI 研究的 " 唯一路徑 "。
但這場混亂最終颠覆了 OpenAI。
一場最終 " 失敗 " 了的談判——至少外界看起來是這樣——之後，奧特曼離開，沒有接受任何媒體的采訪，然後戲劇性的加入了微軟。微軟 CEO 納德拉随後在推特上官宣了這位前 OpenAI CEO 的加入——雖然十幾個小時前，他才剛代表微軟公開對經曆動亂後以原 CTO 米拉 · 穆拉蒂 ( Mira Murati ) 替代奧特曼成爲 CEO 的 OpenAI。
這中間，X 上發起了一場 OpenAI 員工的自發抗議，抗議的标語是 "OpenAI is nothing with its people（沒有具體的人，OpenAI 什麽都不是）"。700 多位 OpenAI 員工裏，有超過 95% 的人開始抗議董事會看起來卸磨殺驢的舉動，并且要求奧特曼回歸。這其中甚至包括剛被推上 CEO 位置卻倒戈的米拉。
這場 OpenAI 與它的創始人之間真正的告别看起來過于草台班子。而章程裏寫着首要任務是 " 爲人類負責 " 的 OpenAI，看起來真正的主導者是奧特曼。
圖源：X
據《The information》報道，在罷免當天的全體會議上，有人向伊爾亞尋求确認，這算不算一次政變，伊爾亞沒有否認，但也堅持自己隻是做了正确的事。
他并沒有料到 OpenAI 會走向一場徹底的分崩離析。沉默的伊爾亞最終在時隔近 48 天後發了一條新的推特，表達了對整件事的失望和後悔，以及自己将會爲 OpenAI 的重新團結做任何事的願望。但這聽上去很絕望。
奧特曼在這條推特回複了三顆 " 愛心 "，似乎在說這件事該翻篇了。評論裏則是馬斯克在催促——到底發生了什麽事？
裂縫在 ChatGPT 裏
今年 2 月，伊利亞在推特上說自己看到了 " 當今最大的神經網絡可能已擁有輕微的意識 "，然後被指責爲一種不高明的炒作。
如果說 OpenAI 和 GPT-4 站在人類與 AI 互相入侵的隘口，領銜着這場交鋒，那眼下世界上沒有任何一個人比作爲 OpenAI 技術領袖的伊利亞，更有機會察覺到 AI 失控的邊界。
這讓這個看起來身高有 1 米 9 卻總是坐姿拘謹的加拿大人，在外人看來很多時候顯得過于神經緊張。
這可能也是奧特曼和馬斯克第一次見到伊利亞時的感覺。
2015 年帕洛阿爾托一場小型晚宴上，奧特曼與馬斯克決定創辦一個非營利性的 AI 研究實驗室，他們将其命名爲 OpenAI。伊爾亞和馬斯克、奧特曼坐在同一張餐桌上。在那之前，馬斯克艱難的把伊利亞從谷歌挖出來，擔任 OpenAI 的首席科學家，甚至爲此不惜和谷歌 DeepMind 的首席執行官哈薩比斯決裂。
對于馬斯克和奧特曼來說這并不是個艱難決定，伊爾亞也沒有辜負 OpenAI，他幾乎主導并推動了之後的一切。
伊利亞加入 OpenAI 後領導了對 GPT 的研發，後來發展成了 GPT-2、GPT-3 和 ChatGPT。有人認爲，格雷格憑借其在軟件系統開發方面的專業背景，在産品策略制定中扮演了關鍵角色。而奧特曼則憑借其豐富的行業經驗和廣泛的業界聯系來領導 OpenAI。而在這背後，伊利亞則是 AI 技術層面的核心研發者，他是 OpenAI 整條 GPT 路線的締造者，直到 ChatGPT。
但從 ChatGPT 開始，伊利亞與奧特曼在 OpenAI 的路線選擇上的裂縫就已經出現了。
《大西洋月刊》采訪了 OpenAI 的 10 名現任和前任員工，然後還原了一個事實：ChatGPT 在 2022 年 11 月的上線，是一個帶有些防禦性意味的倉促決定。
去年秋天 OpenAI 内部傳出 Anthropic —— OpenAI 的創始團隊出走成立的新 AI 公司——正在開發一款 AI 聊天産品，并且研發節奏很快。到了 11 月，OpenAI 的高層告知員工，他們需要在幾周内推出一個聊天機器人，也就是後來一炮而紅的，帶有聊天界面的 GPT-3.5。
那時原本 OpenAI 的研發人員正在 GPT-4 的研發中投入大量精力，而 ChatGPT 激增的流量變成服務器和流量監控工具的一次次崩潰，随之而來的安全風險——比如将 ChatGPT 用于行騙——變成了内部巨大的噪音。OpenAI 内部的安全和和對齊團隊希望 ChatGPT 的進展能夠放慢一點，但事後看來這并沒有發生。ChatGPT 在 2 月上線了能力加強的付費版本，在 3 月推出了插件（Plugin）功能，然後在 6 月做了一次大幅降價的同時，增加了對開發者非常重要的對外部工具的調用能力。
在這期間，GPT-4 也發布了。
你可以看到 OpenAI 董事會中，OpenAI 内部三人之間清晰的隔閡。主導了公司快速商業化的奧特曼與在産品化上有着絕對影響力的格雷格站在一起，伊利亞則站在另一側。
圖源：騰訊新聞
站在商業角度這是一場關于商業化與技術理想主義之間的對立。但站在伊利亞的立場上，這或許是一場 " 有效加速主義 " 和 " 超級對齊 " 之間的權衡。
" 有效加速主義 " 是矽谷發展出的一種獨特哲學，意思是說當人們掌握；額一個颠覆性的産品或者技術，最好的辦法是盡快把它拿到衆人面前，哪怕這個産品或技術還不完美，真實的反饋比在象牙塔裏夯實基礎更有價值，而理念和技術創新在長期來看總是會對人類有益。
相比之下，超級對齊的觀點更加保守，其含義是确保當未來人類對人工智能系統的評估把握超過了那個可控的臨界點後，人類仍然有可以有效地監督人工智能系統的辦法。通俗點說，确保 AI 永遠受到人的控制。
矽谷追求冒險和變化，不歡迎瞻前顧後的完美主義者，但前提是這種不完美不會對全體人類帶來風險——比如人類最終被 AI 接管的最壞可能性。或許在此之前，" 有效加速主義 " 的所有案例裏都沒有如此接近過這個失控的臨界。
在 6 月 ChatGPT 的那次有明确商業化意圖的大更新後不久，伊利亞突然宣布加入公司的超級對齊部門，與簡 · 萊克一起領導這個将在未來面對更深層次人工智能安全挑戰的核心團隊。但他們争取到的籌碼看起來并不多，隻有未來四年内，OpenAI 20% 的算力。
有趣的地方在于，當時 OpenAI 在官宣伊爾亞加入超級對齊部門的時候公布了 9 位部門成員，而當昨天奧特曼離開公司，其中的 8 位沒有在 X 上對奧特曼的告别做出回應，沉默的除了伊爾亞，也包括簡 · 萊克。
放棄 GPT-5
伊利亞的生活幾乎不離開舊金山。
伊利亞 1986 年出生在前蘇聯西部的下諾夫哥羅德，他在這個伊利亞在這個伏爾加河與奧卡河的交彙處生活了五年，然後在蘇聯解體時随全家搬去了耶路撒冷。再次離開以色列搬去加拿大的時候，伊利亞 26 歲。
伊利亞在多倫多大學繼續學業，在 2007 年拿到了數學理學碩士學位後，博士生涯開始轉向計算機科學。
在一個動蕩、寒冷的青年時代後，現在伊利亞過着非常簡單的生活。" 我去上班，然後回家，幾乎不做什麽别的事情。一個人能參加的社交活動有很多，但我不去。" 伊利亞在近日面對《MIT 科技評論》的采訪時說。
下諾夫哥羅德 圖源：來自網絡
伊利亞和奧特曼像是 OpenAI 的兩面。奧特曼推着 AI 靠近真實世界，他的社交媒體裏是一場場全球巡演的盛況，大量對當下世界的評論以及與各國官員的合影。而伊利亞的推特裏則往往缺少 " 人味 "，他思考着他在意的事情，然後扔掉其他一切。
在 Reddit 平台有一條匿名帖子以 OpenAI 員工的口吻爆料稱，長久以來，OpenAI 的工程師們對于新的技術在安全審查并不充分時候就推向市場有所擔憂。
" 山姆似乎越來越注重名利，而不是堅持 OpenAI 作爲一個負責任的非營利組織的原則。他單方面做出的商業決定以盈利爲目的，與我們的使命背道而馳。當他提出 GPT 商店和收益分享時，這就越界了。"
一條被認爲是引發這場蝴蝶效應的線索時，就在奧特曼被解雇前一天，他在美國舊金山舉行的亞太經合組織峰會（APEC）上直言不諱 GPT 仍然有颠覆性的能力沒有推出，并強調 AI 在短期内不需要嚴格監管。
奧特曼屢次重申 OpenAI 對 AGI 的追求，但也強調這需要持續不斷的投入，而這一切都要基于商業化上的巨大成功。
但伊利亞個人所認同的發展方向已經與之相背，他更希望回歸 OpenAI 創立的起點。
半個月前，伊利亞在舊金山某條街道上一座不起眼的建築裏坐下來，平靜地陳述了他在花了六年把 GPT-1 推動到 GPT-4 之後，對 GPT-5 的放棄。
從伊利亞自己在 2 月對于 "AI 具有意識 " 的表達，到幾個月後谷歌的一位程序員因認爲 LaMDA 具有意識而被停職，"AI 超越人類 " 的故事正在從科幻變成偶有發生的真實奇觀。相比 AI 在能力上的更進一步，伊利亞對 AI 最終在身位上領先人類的擔憂是壓倒性的。他的研究重心已經不再是下一代 GPT 或圖像生成模型 DALL-E。
" 第一批 AGI 的信念将會極爲重要，所以以正确的方式來構建它們就顯得非常要緊。如果不這麽做，自然選擇與對進化的本能渴望将會占領 AGI，讓它視自己的生存爲做重要的事。"
伊利亞認爲過于激烈的商業競争最終會對 AGI 的研究造成傷害。如果抱着一種軍備競賽的心态，試圖搶在其他競争者之前最先構建出 AGI，" 這就意味着缺少寬裕的時間來确保構建出的 AGI 已經得到了人類足夠深入的了解和照顧 "，伊利亞在一次與電影制作人 Tonje Hessen Schei 的對話中說到。
從去年開始，他在 OpenAI 内部越來越像一個精神領袖，《大西洋月刊》透露他曾委托一位舊金山本地藝術家創作一個木制雕像，以象征那些 " 未對齊 " 的 AI。然後他将其點燃，作爲一種對 OpenAI 創立初衷的強調。于此同時，伊利亞呼籲同事們要一直相信 AGI 的願景，他甚至爲此在 Slack 上專門做了一個 AGI 的表情來告訴 OpenAI 的所有人不要偏離公司研究的初心。
動物與高速公路
伊利亞對超級對齊這個概念的強調，以及在相信 AGI 将很快到來的同時，對 AI 和人類兩側同時的不信任感，和傑弗裏 · 辛頓（Geoffrey Hinton）的觀念非常相似，後者正是他在多倫多大學轉向計算機科學所跟随的博士生導師。
跟随傑弗裏 · 辛頓的那段時期對于伊利亞非常重要，他完成了從數學到 AI 領域的研究方向轉變，并且這也将他帶到了矽谷。
在多倫多大學期間，伊利亞與辛頓的另一位學生亞曆克斯 · 克裏澤夫斯基（Alex Krizhevsky）開發的卷積神經網絡 AlexNet 在當年的 ImageNet 挑戰賽中奪了冠，并且精确度是第二名的兩倍。AlexNet 的成功證明了大型神經網絡在面對大規模數據時的潛力，爲整個深度學習領域的發展奠定了基礎，與此同時，AlexNet 證明了 GPU 在大型神經網絡訓練中的高效性，可以說當下 AI 領域對于 GPU 的看重，以及 OpenAI 在技術層面的遙遠起點，都是拜 AlexNet 所賜。
圖源：來自網絡
然後谷歌用 4400 萬美元收購了辛頓與兩位學生建立的三人公司 DNNresearch，在這筆更像是一筆對人才的買賣完成後，伊利亞進入谷歌，成爲谷歌大腦的研究科學家。
在出自谷歌的那篇關于 AlphaGO 的影響深遠的論文中，伊利亞也是共同作者之一。他在采訪中回憶對 AlphaGO 的觀察，稱已經從一些痕迹中看到了超級智能的例子——雖然 " 非常狹隘的 " ——按他的話說。
AlphaGO 與李世石交手的第二場比賽中，第 37 手棋超越了所有人類棋手的理解範圍，但最終這一手棋指向了勝利。" 想象一下，如果這種洞察力可以使用到各種地方，會怎麽樣？" 伊利亞在一次采訪中說。
伊利亞在 2015 年離開了谷歌，之後的故事都關于 OpenAI 了。
同樣因 DNNresearch 的收購而進入谷歌的辛頓，則是十年後的今年 5 月突然選擇了離開了，加入了一家機器人公司。他聲稱這是爲了能自由談論人工智能的危險。
在 ChatGPT 問世後，辛頓多次在公開場合表現了對 AI 的擔憂。在一次分享中，辛頓提出了一個看起來非常緻命的問題，" 我并不知道之前有任何案例，關于低智能物種能夠對高智能物種實現完全的掌控 "。他擔心 AI 會在海量數據中學習到意想不到的行爲時，最終威脅到人類——比如欺騙，僞造的圖片，和漫天的假消息。
這與伊利亞的比喻有些相似，" 我們熱愛我們身邊的動物，但當人類決定在兩座城市之間建一條高速公路時，我們不會征求動物們的意見。我們會直接開始建造，這完全出于我們自己的目的。"AGI 的危險并一定是它會傷害人類，而或許僅僅是因爲它太強大了。
辛頓向媒體透露，他和伊利亞最近一直保持着密切的聯系，或許這影響了伊利亞對 OpenAI 公司發展方向的判斷，但後者并沒有作出回應。但幾乎一夜之間，OpenAI 變成一個空殼，GPT-4 還在，剩下一些專利，卻不剩幾個員工，未來毫無成長性。
伊利亞人生中最重要的一躍是 AlexNet，而創辦 ImageNet 挑戰賽的人是李飛飛。李飛飛昨天發了一條推特：" 人類永遠會是所有事物的中心，哪怕這件事是關于 AI 的。"
在那番充滿懊悔的表達後，伊利亞并沒有宣布自己下一步的動向。無論如何，這真是漫長的一天。
