OpenAI 事件暫停塵埃落定。有朋友問:支持 Ilya 被打臉了吧?
打臉就打臉吧。
其實,我對權力或利益之争沒太多興趣,也沒有預測過什麽結局。沒有微軟的股票,也沒有和任何人打過賭。誰對誰錯,也并不重要。
我把觀察到幾個冷門細節,有的可能是非共識,分享一下:
1. 自 2019 年 OpenAI 轉向微軟之後,微軟已經投資了至少 130 多億美金。從 Satya 和 Sam 結盟的關系來看,OpenAI 屬于微軟隻是形式問題。這一點從 Sam 引入微軟就開始了。但不管怎麽樣,半獨立至少比被微軟完全合并要好。
2. Sam 的公關能力很好。他的導師 Paul Graham 也說," 沒有人比 Sam 更擅長處理這種緊急情況了。"
3. 董事會表現非常糟糕,沒有提供任何解雇 Sam 的有說服力的信息,無法向員工交代,在臨時 CEO 要求拿出證據時,也沒拿出證據。到現在,還是不理解幾個董事,整個過程一言不發。倒是臨時 CEO 在任期間,撮合了談判。
4. Ilya 表示後悔,還簽署了要求董事會辭職的聯名信,據說她被 Greg 的家人流淚勸說感動到了。不過,我們最關心的是:開除 Sam 的原因是什麽?爲什麽他用如此激烈的方式?至今我們都不知道。
對關注 AI 安全的人來說,AI 安全警報尚未解除。希望 Ilya 的 " 超級對齊 " 項目,能真的拿到 20% 的計算資源,4 年内能實現 " 超級對齊系統 ",或者更早,因爲最近 AI 進展加速了。
5. 比如 Q*,今天就有新聞出來了。雖然有不同的聲音,感覺終于離事件原因近了一點。
6. 今天還有一個重要消息:"Ilya 克服了數據的限制,可以合成數據來訓練模型。" 一直以來,AI 依賴人工标注數據。以至于有個話糙理不糙的說法:" 有多少人工,就有多少智能。" 比如前些年 NLP 領域展最快的機器翻譯,很大程度上就因爲有現成的平行語料(原文譯文)。這又是一個大的 AI 加速因素。
6. 95% 的員工簽署了聯名信,衆志成城?據說有匿名調查顯示不少員工不是出于自願。至少也應該看看一些不同的聲音:
7. OpenAI 聯合創始人 Karpathy 說他正在考慮中心化和去中心化的問題。我認爲這是真正重要的問題。
8. 如果經此事件,大衆對 AI 安全再一次普及認知,那也是世界很大的一個收獲,收獲一股 AI 風險的制衡力量。
9. 另外,AI 在變得多極化:谷歌 Deepmind、微軟、OpenAI、亞馬遜 +Anthropic、Meta 的開源 Llama 陣營、X.ai,外加歐洲的 Mistral、中國的大模型廠商們。
AI 擴散,多權分散而不是壟斷,對世界是好事。如果加速不可避免,分散是更安全的選擇。
10. 盡管 Musk 和 Sam 不合,盡管事态往 Musk 并不願意看到的方向發展。X 沒有(至少沒有人懷疑)它幹預事件信息。Sam、OpenAI、微軟、媒體、大量的當事人全程通過 X 對世界發布信息。X 做到公正、讓人信任,這值得尊重。
像 Trump 和 Musk 這樣的人,有一些被人诟病的缺點,沒有完美的人設。活在聚光燈下,至少也是一種坦誠和透明。
11. 就在 OpenAI 事件結局的昨天,Space 又發射了 23 顆衛星。
随後在感恩節宣布開源了初代特斯拉 Roadster 的一切設計和工程文件。
12. AI 安全危機仍未解除,但越來越多的大衆開始關注,人類走出地球搖籃,成爲跨星際物種的努力也在繼續,多少有些欣慰。