圖片來源 @視覺中國
文｜闌夕
随着 Sam Altman 重新回到 OpenAI 執掌大權，那場兒戲般的宮鬥終于告一段落，前日參加一場連麥，談到對于 OpenAI 的追劇過程以及盲點，其實信息量相當大，尤其是前阿裏巴巴算法專家、心識宇宙創始人陶芳波老師的分享對我的啓發性很高。
陶老師也是最近被轉發巨多的這篇文章的作者，他是在 AI 這個行業裏躬身入局做了很多年的技術專家，和我作爲使用者和消費者的視角有很大不同，我也簡單總結一下我們聊的内容。
現在回過頭看，OpenAI 的宮鬥除了奪權之外，其實還有一條埋了至少半年以上的隐線，它未必是最突出或者首要的矛盾，但實際上造成了董事會和管理層的離心離德。
OpenAI 的董事會結構雖然已經被吐槽很多次了，但它之所以那麽奇葩，原因都在于最開始想用這麽一個去商業化的設計方案來實現董事會應當爲全人類負責這個使命，我們現在覺得有問題的「由和業務無關的人來決定公司生死」的處境，其實初心就是這麽考慮的。
如果不是出了這麽一檔子事，如此架構的理想主義甚至還是備受好評的，畢竟它代表了傳統商業經濟形态之外的一種嘗試，而且誕生了一家領軍企業，不可謂不成功。
但是有兩個問題是随着時間發展逐漸暴露出來的：
其一，是 Transformer 這條路線太燒錢了，不再是研究型公司負擔得起的，通過大佬們的捐贈隻是杯水車薪，必須重新回到融資這條路上才能支持繼續發展；
其二，是理想主義總會高估人性，不知道人類本身也是有局限性的，你怎麽知道董事會的判斷，是出自自我的偏見，還是真的爲全人類負責呢？或者說，他們憑什麽說自己是爲全人類在做判斷？
所以我才說，不如調幾個不同風格的滿功率 GPT-4 來擔任董事會，重要事項讓它們來投票決定，這要比人類靠譜多了。
無論如何，Sam Altman 一直都有在打補丁，想要兼容現代商業制度，那個董事會的成員最開始是 9 個人，後來減少到 6 個人，并長期維持下來，這也是很草率的地方，因爲一般都不會留雙數，但 Sam 也沒怎麽管，算是一個比較重大的疏忽，說明他根本沒想過後院起火的可能。
根據幾家媒體的最新拆解，董事會的其中一人——在外面研究 人工智能相關政策的 Helen Toner ——認爲 OpenAI 的發展過于危險了，甚至認爲如果毀掉 OpenAI 才能解決問題，那麽這也是拯救全人類的唯一手段。
從時間線上看，是 Sam Altman 想先動手，他在和 Helen Toner 長期無法達成共識的情況下，試圖把她從董事會裏拿走，卻慢了一步，Helen 說服了首席科學家 Ilya 反水，聯合其他董事提前把 Sam 和他的死黨 Greg 踢出了局，用的理由也是偏保守和監管的那套，認爲 Sam 太着急了，而且不受控制，對發布産品的重視度遠高于對齊。
雖然最後證明幾乎所有 OpenAI 的員工都選了 Sam Altman，但在 OpanAI 内部确實也有很多不贊同過早發布産品的聲音，他們未必始終都站在 Sam 這一邊，但都不接受用兒戲般的宮鬥方式來達到目的，這太蠢了。
我的看法是，就好比說做好極端情況的應對當然是沒毛病的，如果被毒蛇咬了那我們可以接受截肢保命的代價，但 OpenAI 的鬧劇在于，現在好像隻是有人的胳膊被蚊子咬了一下，然後就直接拿出電鋸要截肢了⋯⋯
陶芳波老師不贊同我的判斷，聽他解釋之後我也意識到确實有很多地方是旁觀位置觀察不到的死角，而陶老師正在前沿做 AI Agent，他見到的、經曆的事情，要深很多。
簡單來說，陶老師認爲，控制 AI 的先決條件，是人類要比 AI 強大，如果 AI 超過了人類，那麽人類根本無從判斷 AI 的決定是對是錯，以緻于失去駕馭 AI 的能力。
所以時間其實很緊張——而不是還有得從容餘地——所謂的「對齊派」根本就還沒有寫好全部後門，而「加速派」就已經迫不及待的要讓 AI 重構社會了，而在矽谷的大環境裏，「加速派」則是占據絕對上風的，所以導緻了 OpenAI 的董事會要用那種獨斷的方式來爲公司踩刹車，這事兒可笑歸可笑，但不是不能理解的。
我接觸到的許多 AI 從業者，都帶回和陶老師很是接近的一種複雜性，怎麽說呢，就是在高度認同 AI 事業價值的同時，也對 AI 保持着同樣高度的懷疑和警戒，過去曆史上所有的技術都是工具，現在開始超越了工具，這既讓人感到興奮，也有所不安。
相比之下，我可能更偏樂觀一點，如果現在的世界和社會已經接近完美了，那麽 AI 引發改變的風險當然需要讨論其必要性，但事實是，當下整個人類文明的生産力都還非常低下，我們被困在促狹的地月系統裏，受制于能源、經濟、戰争等種種因素，如果 AI 可以造就跨越繁榮的機會，那麽它能救贖的苦難，一定高于危險。
我很尊重技術專家們對于肩負職責的崇高性，但在信息不對稱的世界裏，「飽漢不知餓漢饑」的情形也是比比皆是的，讓大衆市場而非自我道德來做均值回歸，可能是一個容錯率更高的選擇。
這又回到了 OpenAI 開發出的那個突破性進展 Q Star，時至今日我們都還無法具體了解這個引起董事會恐慌暴走的玩意到底是什麽，隻能從各種蛛絲馬迹裏來拼湊出一個相對接近的答案：
Sam Altman 在早些時候的一次活動裏有過一段略顯突兀的自我問話，大意是不知道究竟是在制造工具，還是創造生物？而在 OpenAI 内部透露的隻言片語裏，Q Star 擁有了「輕微的自我意識」，證據之一就是它已經可以擺脫依賴數據才能開展訓練的限制了，而是可以自我對話（合成數據）實現學習。
連「圖靈三巨頭之一」的 Yann LeCun 都震驚于這個進展，他說現有大模型需要灌數據隻是受限于技術水平不得已而爲之的做法，大模型的訓練數據量理論上可以不設上限——甚至超越人類古往今來的所有知識——但是就像人類和猩猩的基因組之間隻有差不多 8MB 的差異，人類文明從來不是靠堆量堆起來的，AI 也不應該這樣。
就像古老時代的哲學家們并不是把天底下的書都看完了才能産生洞見，他們也可以選擇圍爐夜話，通過交談甚至是自我對話來創造新的智慧，如果 AI 達到了這樣的境界，那麽 AGI（通用人工智能）恐怕也是真的要降臨于世了。
今年 8 月的時候，Sam Altman 還發推表示他收到了同事送的「塞爾達傳說：王國之淚」，所以人類獲得 AGI 的時間要往後推遲 4 天了——他要用 4 天時間來打遊戲——沒想到啊，任天堂竟然是專門爲了拯救人類不被 AI 奴役而專門開發了那款新遊戲，卻也隻讓人類滅亡的時間拖了區區 4 天而已⋯⋯
這是今年夏天，Sam Altman 代表 OpenAI 在全球巡回演講裏的一張抓拍，構圖和色彩的恰到好處，卻又隐約給這張照片賦予了某種「神性」的意味，對不對？
