高傑 / 文
11 月中下旬的五天之内,全世界圍觀的人工智能頂級超新星公司 Ope-nAI" 政變 " 大戲暫時落下帷幕,起初被突然罷免的創始人、CEO 薩姆 · 奧特曼(SamAltman)經過多輪反轉與博弈 " 王者歸來 ",重新擔任 CEO,董事會成員被重新調整或改組,主要反對與驅逐他的 " 執劍人 " 首席科學家伊利亞 · 蘇茨克維(IlyaSutskever)重新支持了奧特曼,其他兩位董事會成員出局。
那幾天美國睡眠監測應用 EightSleep 披露了一個數據,稱舊金山地區睡眠不足的用戶突然增加了 27%,其實不止舊金山,全球科技界、創投圈以及各行業人士都在以 X 平台(前推特)爲主的社交平台上無時無刻地關注這次 OpenAI 的宮鬥大戲,突然性強、反轉次數多、頂尖公司的内鬥商戰等各種吸睛戲劇元素齊聚,比很多商戰影視劇都精彩,也難怪受到全世界的關注。
短短 5 天時間,微軟 CEO 納德拉、前 OpenAI 創始人馬斯克等科技大佬與 OpenAI 紛紛下場參與或表态,投資機構與各路資本下場介入或施壓,OpenAI 創始人、董事會成員乃至家屬紛紛進行調停、博弈與談判,經過多方介入與多倫反轉,最終 OpenAI 的 3 位核心成員(總裁、CEO 與首席科學家)達成和解,形成現在的權力重塑與回歸運轉。
這次事件勢必會成爲人工智能及其治理發展史中的一個裏程碑事件,通過此次 " 事變 " 重新調整了 OpenAI 的權力架構與治理結構,管理者、董事會、投資人、資本與各方利益集團實現了 " 利益公約數 " 的博弈,該組織通過跌宕起伏的叠代與重塑,繼續向着推進人工智能發展與惠及全人類的目标使命前進。
理念分歧
這次 " 五日事變 " 的導火索事件是,OpenAI 突然發布公告稱其創始人兼 CEO 奧特曼将卸任 CEO 之位和董事會席位,給出的解釋是說他在與董事會的溝通中并不始終坦誠。
事實上多數人都不太會相信這種單方面與模糊不清的簡單原因,包括 X 平台(前推特)大股東馬斯克、微軟總裁納德拉等多位大佬也紛紛介入與發聲,當然此次事變整個過程,X(推特)作爲主要平台與微軟作爲主要投資機構都成爲了受益者,所有事變的參與人和關注者都通過 X 平台來獲取一手消息,通過此次事變,微軟對于 OpenAI 的影響力與話語權大增,股價也迎來了上揚。
作爲企業組織的商戰内鬥,很多表象原因與證據似乎指向的是高層、股東、董事會内部的利益沖突與矛盾鬥争。比如在此前 OpenAI 的初創階段,蜜月期的聯合創始人馬斯克與奧特曼合作挖來首席科學家蘇茨克維共同成立非營利組織,來推動人工智能技術更好地造福人類,後來因爲馬斯克試圖削弱奧特曼的權利,後續還想把 OpenAI 并入特斯拉、由自己擔任 CEO,遭到公司反對,随後馬斯克削減投入與撤銷注資,最終與 OpenAI 管理層決裂而離去。但其實曾是好友與創業夥伴的二人之間的深層矛盾,可能更多還是源于馬斯克與奧特曼在 OpenAI 發展理念上的分歧,以及兩人對人工智能快速發展所伴随的社會風險觀念的認知不同。
回到此次 " 五日事變 " 伊始,前 OpenAI 創始人馬斯克曾表示蘇茨克維有非常好的道德原則并且不尋求權力,除非他覺得絕對必要,否則不會采取如此激烈的行動。
此前馬斯克表達過對 AI 的擔憂,部分科技媒體也有報道,在奧特曼被罷免之前,幾名公司研究人員向董事會發出了一封信,警告稱某項強大的人工智能(AI)發現可能威脅人類。據财聯社報道,消息人士表示,這封此前未被報道的信件和 AI 算法是導緻 OpenAI 董事會罷免奧特曼的催化劑。他們稱,董事會對奧特曼的諸多不滿導緻後者被解雇,而這封信是原因之一。
但從這次事變的突然發生到相對穩妥、皆大歡喜的結局來看,争議更多地源于奧特曼和蘇茨克維的發展路線之争與理念分歧,而非雙方單純的商戰與不可調和的利益沖突。
超級對齊
當然事變的發生不可避免也有商業利益、控制權等因素在内,但更多地還是源于雙方關于 AI 技術發展與風險的理念分歧,相同點是二人作爲創始人都未以營利或利益最大化爲倚重目标,個人幾乎沒有通過 OpenAI 攫取較多股權、利益或較大收入,都是醉心于 OpenAI 的發展與影響,這也是二人最終能達成妥協與共識的關鍵,都是好友與聯合創始人,分歧更多在于對 AI 技術突進、商業化與技術風險控制的不同考量。
有關科技與人類關系的發展,在近年的矽谷與全球科技界,有兩種理念與主義的分野:" 有效加速 "(effectiveac-celeration)與 " 有效利他 "(effectiveal-truism)主義之間對于科技進步與人類影響的看法不同。
簡單來說,有效加速主義主張無條件地加速技術創新并快速推出,颠覆社會結構,而這種對社會的颠覆風險,本質上對人類有利,過去三百年人類随着技術的颠覆而進化的結果已經證明。
而有效利他主義有着一套複雜的全新的世界觀體系,核心可以用哲學家 PeterSinger 的思想來概括,即 " 在維持基本生存以外你花的任何一筆錢,都是以另外一個人的死亡爲代價 ",該運動的領袖、牛津大學哲學系助理教授 MacAskill 将其進一步歸納爲:如果有人因極度貧困而死去,就相當于你親手殺死了他們。
這兩種理念與主義在矽谷與科技界、創投界都分别有着不少擁趸,比如人們可能更多會認爲作爲特斯拉與 SpaceX 的創始人馬斯克更側重有效加速主義,但他公開表示 MacAskill 的理念 " 非常符合他的哲學觀 ",而且在 OpenAI 初創期與奧特曼的分歧,以及現在 " 五日事變 " 前後對于蘇茨克維的關心,都表明馬斯克在科技價值觀與發展理念方面,更側重于關注技術風險與人類福祉。
具體到 AI 技術與 AGI 應用的快速發展,兩種理念的分歧與對立在 OpenAI 這裏則表現爲,以奧特曼一方爲代表的促進 GPT 快速發展叠代、公開推廣、不斷融資的 " 有效加速主義 "(effectiveacceleration),與以蘇茨克維一方爲代表的關注 AI 技術風險并 " 要求 AI 系統的目标要和人類的價值觀與利益相對齊 " 的 " 超級對齊 "(Super-alignment)的理念分歧。
蘇茨克維作爲 " 深度學習之父 "GeoffreyHinton 的學生,一直以來保持着和 " 打開潘多拉魔盒 " 的老師相似的觀點,擔心 AI 不受控制危害人類,自己所主導推動的超級對齊理念與項目,本質是 "Super-LOVE-alignment"(超級 " 愛 " 對齊),希望把對人類的愛注入到 AI 發展的基因與價值觀塑造之中。
不管 OpenAI 是否如部分傳言所說已經開發出威脅到人類的技術,或者發現 AGI 技術已經具有意識等内容,根據已知的确切消息與證據,我們可以确定 AGI 技術在快速發展,ChatGPT 也在快速叠代,比如奧特曼被 OpenAI 董事會解雇前一天在舊金山出席亞太經合組織(APEC)首席執行官峰會時表示,OpenAI 最近取得的一項曆史性技術進步與前沿突破令人振奮。而今年六七月份,蘇茨克維成立了 OpenAI 内部面對更深層次 AI 安全挑戰的核心團隊 " 超級對齊 ",未來四年内希望使用 20% 現有算力研發更多上遊 AI 安全技術,他表示,OpenAI 首要任務不是制造下一代 GPT,而是研究如何阻止超級 AI 失控;10 月接受《麻省理工科技評論》采訪時,蘇茨克維表示和 GPT 對話時,能感受到 " 意識 " 的湧現。
随着奧特曼加速 GPT 研發叠代、不斷融資支撐算力與公司發展,以及蘇茨克維強調風險防範并推動超級 " 愛 " 對齊項目,雙方對于 OpenAI 的發展路線之争與理念分歧就不可避免了。
當然,事變的相對平穩落幕,代表着 OpenAI 在權力重塑與自我進化的路途中,奧特曼的有效加速主義與蘇茨克維的超級對齊也在磨合前進。相信 OpenAI 未來發展的速度快慢與産品技術的具體呈現,會讓我們進一步了解 OpenAI 的治理架構調整與理念主義融合的最新情況。
(作者系山東大學國際創新轉化學院副教授,MBA/IMBA 導師,管理學博士)