席卷周末 OpenAI 的 " 政變 " 風波，令全球 AI 行業目瞪口呆。
華爾街見聞此前文章提到，此次内鬥的根源，可能在于 AI 監管與商業化之間的矛盾—— OpenAI 首席科學家 Ilya Sutskever 無法接受 CEO Sam Altman 激進的商業化戰略，因此和其他董事聯手，趕走了 Altman 和公司總裁 Greg Brockman。
但在商業化上不斷提速、把 AI 安全放在次要位置的，并不隻有 OpenAI，整個矽谷，都是如此。
野心與安全的矛盾
在 Sam Altman 被趕下台之前，OpenAI 在商業化上的野心和激進，已經讓 OpenAI 首席科學家 Ilya Sutskever 等人憂心忡忡。
媒體援引知情人士的分析指出，Altman 和 Sutskever 的矛盾包括 AI 安全性、技術發展速度以及公司商業化等方面。Altman" 路人皆知 " 的野心也可能造成了這一局面。
除了開發大模型，Altman 還計劃涉足硬件開發、AI 芯片等衆多産業。此前有報道稱，Altman 尋求向中東主權财富基金融資數百億美元以創建一家 AI 芯片創業公司，與英偉達 GPU 競争；Altman 還在争取軟銀孫正義的數十億美元投資和蘋果前設計主管 Jony Ivy 一同開發一款硬件設備；他還投資了前蘋果設計師 Imran Chaudhri 和 Bethany Bongiorno 成立的 AI 硬件公司 Humane。
而且，近期多模态、GPTs 等一系列重磅功能的飛速上線，也讓首席科學家 Ilya Sutskeve 感到不安。他認爲，OpenAI 需要更多的時間來弄清楚研究路徑，而不是急于匆忙部署産品。
因此，在 11 月 17 日的董事會議上，内鬥爆發了。Ilya Sutskeve 當場表示，公司不應該繼續籌集資金和擴大規模，Altman 未經董事會同意就離開會場，随後被直接解雇。
Sutskever 傾向于把安全放在首位
相比 Altman，Sutskever 有着更加深厚的技術背景，是圖靈獎得主 Geoffrey Hinton 的同事、首個深度卷積網絡 AlexNet 的設計者之一。同樣，他也更加關注 AI 的潛在威脅。
在此前的公開演講和訪談中，Sutskever 曾多次表示，他的主要工作不是開發 GPT-5，而是弄清楚如何讓 " 超級智能 " 安全可控。
在 OpenAI 的 8 年曆史中，商業化與 AI 安全的矛盾并非第一次出現。2020 年底，一部分員工由于在公司的商業戰略和技術發布速度上的分歧，從 OpenAI 分裂出去創立了自己的創業公司 Anthropic。而爲了确保 OpenAI 的技術開發不會受到财務激勵的影響，Anthropic 組建了一個獨立的五人小組，可以雇傭和解雇公司的董事會。
多年來，AI 從業者一直擔心更強大的模型可能被濫用，比如開發生物武器、生成有說服力的深度僞造或入侵關鍵基礎設施。一些人還認爲這些系統最終可能會變得自主并以人類的代價失控。
随着 OpenAI 開發出可以自動化寫作、編程和從零生成逼真圖像的突破性人工智能，公司的一些員工開始擔憂，一旦 AI 學會自我改進，之後會發生什麽？
今年夏天公司成立了一個團隊，由 Sutskever 和「alignment」研究員 Jan Leike 共同領導（AI alignment 研究就是通過各種技術手段，使 AI 系統的目标與人類利益一緻，防止 AI 系統做出危害人類的行爲），緻力于尋找技術解決方案，防止其 AI 系統失控。
在一篇博文中，OpenAI 說它将專注五分之一的計算資源來解決 " 超級智能 " 的威脅，Sutskever 和 Leike 指出，這 " 可能導緻人類失去權力甚至滅絕 "。
與 Altman 的野心與激進形成對比的是，Sutskever 一直以來都非常關注安全，在 7 月的一次采訪中，Sutskever 說，他最擔心強大的通用 AI 在未來幾年的危險性，但希望未來 AI 技術可以幫助人類對自己進行監管，可能解雇 Altman 本身就是這個 "alignment" 的例子。
他在公司内有許多追随者。前員工将他描述爲一位備受尊敬和親力親爲的領導者，對指導這家創業公司的前沿技術至關重要。
矽谷風向變了，AI 軍備競賽已經開始，安全退居次席
在技術和商業化上提速的不止 OpenAI，整個矽谷都是如此。
此前有傳言稱，Meta 已經解散了其 2019 年設立的負責任人工智能（RAI）團隊。
本周日，Meta 已證實這一消息：RAI 的确已經解散，大部分成員将轉到公司的 AI 産品團隊，其他人則将轉到 AI 基礎設施相關團隊任職。
Meta 對此回應稱：
" 公司将繼續優先投資于安全、負責任的人工智能開發。"
Meta 還表示，雖然公司正在拆分 RAI 團隊，但這些成員将繼續支持相關工作，确保公司負責任地開發和使用人工智能。
RAI 的任務主要是識别 AI 訓練方法中存在的問題，包括公司的模型是否經過了充分多樣化的信息訓練，防止錯誤和幻覺。Meta 社交平台上的自動化系統已經導緻了一些問題，WhatsApp 的 AI 表情包在特定提示下會生成有偏見的圖片，Instagram 的算法之前被曝出會顯示兒童性虐待内容。
Meta 經常強調其在 AI 研發上如何 " 負責任 "，甚至還專門爲此設立了一個頁面，列出了其 " 負責任的人工智能支柱 "，包括問責制、透明度、安全性、隐私等。
結果現在，連 " 負責任 " 這個部門都沒有了。
更早之前，在 3 月份，有媒體報道稱微軟已經解散了其整個 AI 風險評估團隊。
據悉，這個團隊正式名稱爲 AI 道德與社會團隊，其主要職能在于指導微軟在 AI 方面的創新，從而産生符合道德标準、負責任以及可持續的結果。最近，該團隊始終在努力評估微軟将 OpenAI 技術整合到其産品中可能存在的風險。
多位微軟離職和在職員工表示，此舉導緻微軟将再也沒有專門的團隊來确保其 AI 原則與産品設計緊密結合，而目前該公司正在引領潮流，努力讓 AI 工具成爲主流。不過，微軟仍然保留着名爲負責任 AI 辦公室（ORA）的團隊，其任務是制定規則來管理公司的 AI 計劃。微軟表示，盡管最近進行了裁員，但其在責任工作方面的整體投資始終在增加。
種種迹象表明，追逐熱錢的矽谷，在 AI 風潮中似乎有了迷失的迹象：巨額投入帶來的商業化變現壓力、對技術進步的狂熱信仰，可能正使得至關重要的 AI 安全問題，被許多科技公司所忽略。
Altman 會去創辦一家新公司嗎？
宮鬥懸疑尚未塵埃落定，但無論結果如何，Sam Altman 肯定不愁去處，連法國政府都對他抛出了橄榄枝。
華爾街見聞此前指出，包括微軟在内的幾家大股東，已經在向 OpenAI 董事會施壓，要求 Altman 回歸。還有媒體報道稱，Altman 正在考慮另立門戶，成立新公司，并吸納一些 OpenAI 之前的員工。
周五被解雇後，包括紅杉資本 Alfred Lin 和 SV Angel 創始人 Ron Conway 在内的幾位風險投資人都發表公開聲明支持 Altman，紅杉及 SV Angel 都是 OpenAI 的主要投資者。
Alfred Lin 在 X 上寫道，他期待看到 Altman 和 Brockman 創建的下一個改變世界的公司。
Altman 在矽谷有着深厚的關系，與科技巨頭高管、投資人和政要有密切私教。他曾經親自從谷歌和其他公司挖來許多重要的研究人員和工程師，爲 OpenAI 創業成功奠定了基礎。
可以預見的是，無論政變以何種形式收場，無論 Altman 的野心會不會收斂，他肯定會比以前小心得多，不會再留出組織架構上的疏漏，讓下屬能輕易驅逐他。
劇情可能像一位見聞用戶的神評論那樣：
