Sam Altman 被開除之前發生了什麽？
Sam Altman 被開除之前發生了什麽？
OpenAI 的「真還傳」劇情昨天迎來了大結局。但今天，事件主角 Sam Altman 又上了熱搜。
美國媒體報道稱，在 Sam Altman 被董事會開除四天之前，幾名研究人員向董事會發送了一封信，警告他們 OpenAI 已經有了一項重大的人工智能發現，而這項發現可能會威脅到人類。知情人士稱，這封以前未報道的信件和人工智能算法是董事會罷免 Altman 的一個關鍵線索，也是董事會對 Altman 的諸多不滿之一。
外媒
美國媒體提到，OpenAI 在發給員工的内部信息中承認了一個名爲 Q * 的項目，并在 Altman 被開除之前緻信董事會。OpenAI 的一位發言人表示，上述内部信息是由長期擔任高管的 Mira Murati（OpenAI 前 CTO，在混亂之初曾被任命爲臨時 CEO）發布的，目的是提醒員工注意某些媒體報道，但不評論其準确性。
Q * 的發音爲 Q-Star，一些内部人士認爲，這可能是 OpenAI 在追尋超級智能 / 通用人工智能（AGI）道路上取得的一項突破。也就是說，他們可能已經創造出了比人類更智能的 AI 系統或與其有關的突破。
據悉，Q-Star 能夠解決以前從未見過的數學問題，而數學是生成式人工智能發展的前沿。目前，生成式人工智能擅長通過統計預測下一個單詞來進行寫作和語言翻譯，而且對同一個問題的回答也可能千差萬别。但是，如果掌握了數學能力（隻有一個正确答案），就意味着人工智能将擁有更強的推理能力，與人類智能相媲美。人工智能研究人員認爲，這可以應用于新穎的科學研究等方面。著名數學家陶哲軒就經常曬出自己在 ChatGPT 的輔助下進行數學研究的例子。
陶哲軒發言
最近幾周，該模型的演示在 OpenAI 内部流傳，其發展速度讓一些關注人工智能安全的研究人員感到震驚。
消息人士稱，研究人員在給董事會的信中指出了人工智能的能力和潛在危險，但沒有說明信中提到的具體安全問題。
長期以來，計算機科學家們一直在讨論超級智能機器帶來的危險，比如它們是否會認爲毀滅人類符合它們的利益。
在這種擔憂不斷蔓延之際，Altman 卻在加速推進 GPT 系列模型的開發及其商業化，以早日實現通用人工智能。
除了在本月的 OpenAI 開發者大會中宣布了一系列新工具外，Altman 在上周的亞太經合組織工商領導人峰會上還開玩笑說，他相信 AGI 就在眼前。他還表示，在 OpenAI 的工作經曆中，他有幸目睹了知識邊界四次被推進，其中最近一次發生在幾周前。
在發表這番言論的第二天，Altman 就被董事會解雇了。
據 The Information 報道，神秘模型 Q-Star 是由 OpenAI 的兩位頂級研究人員 —— Jakub Pachocki 和 Szymon Sidor —— 基于 OpenAI 首席科學家 Ilya Sutskever 的研究成果構建的。在 Altman 被開除後，二人也成了首批辭職的高級員工之一。
The Information 還寫道，在取得突破後的幾個月裏，Sutskever 似乎對這項技術持保留态度。今年 7 月，他組建了一個「超級對齊」團隊，緻力于讓強大的 AI 系統遵循人類的意願，而不是傷害人類。該團隊在其網頁上說：「雖然超級智能現在似乎還很遙遠，但我們相信它可能會在十年内到來。」
Ilya 取得的突破以及他對 AI 安全的擔憂，有助于解釋他爲什麽參與罷免 Altman 的行動，以及 Sidor 和 Pachocki 爲什麽在 Altman 被解雇後迅速辭職。不過，在 Altman 重回 OpenAI 後，兩人也回到了公司。
除了 Pachocki 和 Sidor，OpenAI 前董事長兼聯合創始人 Greg Brockman 也一直緻力于将該技術集成到新産品中。上周，他和 Altman 一起離開，如今又一起回歸。
推特
據知情人士透露，Ilya 的突破還幫 OpenAI 克服了獲得足夠高質量數據來訓練新模型的限制，這是開發下一代模型的主要障礙。該研究涉及使用計算機生成的數據，而不是現實世界的數據（如從互聯網中提取的文本或圖像）來訓練新模型。
有迹象表明，Sutskever 越來越擔心人工智能的風險。在一篇博客文章中，OpenAI 表示，它将把五分之一的計算資源用于解決來自「超級智能」的威脅，Sutskever 和 Leike 寫道，這「可能導緻人類被剝奪權力，甚至人類滅絕」。
在經過幾天的混亂之後，OpenAI 正在經曆一輪新的洗牌，還有很多問題懸而未決。很多人調侃說，這意味着這場大戲還有第二季。
Adam 成原董事會「遺珠」，首席科學家 Ilya 發聲
随着 Sam Altman 重返 OpenAI CEO 職位，原董事會也迎來了重組。
現在，OpenAI 組成了包括前 Salesforce 聯席首席執行官 Bret Taylor（董事會主席）、前美國财政部長 Larry Summers 和 Quora 聯合創始人 Adam D'Angelo 在内的三人初始董事會。
推特
我們知道，OpenAI 原董事會成員有 6 人，包括 3 名 OpenAI 高管（原董事長兼總裁 Greg Brockman、CEO Sam Altman 和首席科學家 Ilya Sutskever）和 3 名非員工董事（Adam D'Angelo、Tasha McCauley 和 Helen Toner）。此後就是大家熟知的 Greg 和 Altman 被踢出董事會。
而全新初始董事會的「出爐」意味着 OpenAI 原董事會成員 Ilya Sutskever、Helen Toner、Tasha McCauley 都暫時「出局」了。至此原 6 人董事會成員隻有 Adam 留了下來。這就讓人對 Adam 非常好奇，畢竟他此前被認爲是開除 Sam Altman 的幕後推手（他的 AI 項目 Poe 被認爲與 Altman 發布的 GPTs 等産品存在競争關系）。
Adam
Adam 年少成名，他是問答網站 Quora 的聯合創始人之一，與 Facebook 創始人紮克伯格爲預備學校同學，并曾擔任 Facebook 首位 CTO。Adam 被認爲是一位緻力于在網絡上傳播更好信息的傑出工程師，爲人很低調。
Adam 擔任 OpenAI 董事會成員已經 5 年了，過去幾天他在網上遭到了業内同行的批評，甚至馬斯克也要求他解釋爲什麽驅逐 Altman。而根據 Quora 前員工的一些說法，Adam 有時會突然解雇高管，而不考慮對員工的影響。
不過，對于 OpenAI 内部存在的激進與安全路線之間的平衡，Adam 似乎持有樂觀的态度。身邊人形容他很務實，對 AI 的商業化并不過分謹慎。可以說 Adam 并沒有試圖減緩 AI 的進步，過去一年他一直将精力投入到自己的 AI 項目 Poe 中，這是孵化自 Quora 的一個 AI 聊天機器人平台。
此外，Altman 也一直欣賞 Adam，在 2018 年将他引入 OpenAI 董事會。Altman 曾稱 Adam 是人們在讨論最聰明 CEO 時不斷提及的少數幾個名字之一，有時甚至會在深夜與他通電話解決問題。
另一位前董事會成員、OpenAI 首席科學家 Ilya Sutskever 的去留也備受關注。他參與了解雇 Altman 的行動，但随後又後悔了。Sam Altman 轉發了 lya 表示後悔的帖子并加上了「愛心」的表情，看起來是和解的信号。其實，Ilya 在 OpenAI 的技術影響力也足以促使 Altman 讓事情翻篇。
推特
據報道，這一轉變是 Greg Brockman 的妻子促成的，而 Ilya 是二人婚禮的主婚人。
推特
推特
多年來，Ilya 一直在研究如何讓 GPT-4 等語言模型解決涉及推理的任務，例如數學或科學問題。2021 年，他啓動了一個名爲 GPT-Zero 的項目，這是對 DeepMind 的 AlphaZero 的緻敬，該程序可以下國際象棋、圍棋和将棋。該團隊假設，給語言模型更多的時間和計算能力來生成對問題的回答，可能會讓它們在學術上取得新的突破。
知情人士透露，Transformer 論文（Attention is All You Need）作者之一 Lukasz Kaiser 在 GPT-Zero 項目中發揮了關鍵作用。這位人士說，該團隊試驗的技術包括一種被稱爲「測試時計算（test-time computation）」的機器學習概念，旨在提高語言模型解決問題的能力。今年早些時候，Ilya 和他的團隊發現了這種方法的一種變體，這促使他們在訓練更複雜的模型方面取得了更大的成果。看來，核心技術還是掌握在 Ilya 手裏。
在 OpenAI 宣布 Altman 将回歸後，Ilya 在個人社交平台上寫到，「沒有任何語言、任何語句能夠表達我有多開心」。看來，Ilya 與 Altman 之間并非水火不容的關系。
推特
從新舊董事會成員的整體背景來看，原董事會成員中有學者和研究者，而全新初始董事會成員擁有廣泛的商業和技術背景。
不過，根據一些外媒的說法，全新初始董事會的主要工作是審查和任命一個最多 9 人的正式董事會，重置 OpenAI 的管理模式。另外，主要投資者微軟加入董事會的談判也正在進行中。
股票變現可以繼續，但投資人也在改變策略
在這場風波之前，OpenAI 正計劃以 860 億美元的估值出售員工股票。這場風波讓員工們的變現機會蒙上了陰影，不過随着 Sam Altman 的回歸，一切會慢慢重回正軌。
根據 The Information 從知情人士獲知的消息，OpenAI 員工股票出售工作已重啓。由風險投資公司 Thrive Capital 牽頭的一批投資者将購買員工或其他投資人持有的高達 10 億美元（可能還會更多）的股票，此次招标活動預計将于下月完成。此次招标意義重大，員工股票出售是外部投資者買進 OpenAI 的最簡單方式。
在 Sam Altman 風波之前，已經有一系列投資者參與其中，其中包括 OpenAI 現股東、好萊塢男明星阿什頓・庫徹聯合創立的風險基金 Sound Ventures。該基金在風波之前已經承諾參與邀約收購，金額約爲 1 億美元。現在不清楚該基金是否仍計劃購買 OpenAI 股票。
最近幾天，投資者非常擔心他們持有的 OpenAI 股票價值會狂跌。因此，包括紅杉資本、Thrive Capital 和 Tiger Global Management 在内都在爲 Sam Altman 的複職鋪路。
雖然 Sam Altman 已經回歸，但仍面臨投資者的一長串問題。據報道，OpenAI 保留的組織結構中仍由「非營利部門監管從私人投資者籌集資金的營利部門」。投資者對這種不尋常的結構以及 OpenAI 缺乏常規治理表示嚴重擔憂。
據 The Information 報道，這次 OpenAI 的混亂并沒有讓風投對人工智能行業失去信心。Crunchbase 的數據顯示，今年，風險投資者已經向人工智能初創企業投入了超過 250 億美元的資金。一些風投告訴 The Information，他們認爲 OpenAI 的失敗是公司特有的問題，最近的事件不會讓他們撤回對其他人工智能初創公司的投資。
不過，The Information 認爲，他們在支持那些治理結構不尋常的初創公司或那些建立在 OpenAI 技術基礎上的初創公司時會更加謹慎，并将鼓勵他們的投資組合公司嘗試其他模型提供商和開源模型，這一趨勢已經開始出現。
目前，已經有部分投資者開始對依賴單一、專有服務進行生成式 AI 競争的做法進行重新評估。Saleforce、高通、英偉達和谷歌前 CEO Eric Schmidt 正在向開源 AI 初創公司投資，比如 Hugging Face 和 Mistral AI。
