OpenAI 宮鬥大戲迎來終局,Altman 和 Brockman 攜手加入微軟,作爲唯一留下來的核心成員 Ilya,又有哪些幕後故事呢?
OpenAI 宮鬥大戲終于迎來了第一季的大結局:
Sam Altman 最後戴着訪客證離開了 OpenAI,和 Greg Brockman 開車離開加州去到了華盛頓州,加入了微軟。
現在 OpenAI 董事會中,隻有首席科學家 Ilya Sutskever 還在 OpenAI 任職。
這位俄羅斯出生的 AI 研究人員,突然之間就從幕後走到了前台,成爲了 OpenAI 的絕對核心。
這位被馬斯克稱爲「OpenAI 最艱難也最重要的招聘」的 AI 科學家,将把 OpenAI 帶領到何方?
而 OpenAI 董事會的 6 大金剛,現在隻剩 4 人。這一路走來,董事會成員發生了些什麽變化?
爲了招募 Ilya,馬斯克不惜與拉裏佩奇決裂
Ilya Sutskever 出生于俄羅斯下諾夫哥羅德,在蘇聯時期,那個城市還叫高爾基。他 5 歲時随家人移民到以色列,在耶路撒冷長大。
Sutskever 于 2000 年至 2002 年間就讀于以色列開放大學。之後,他随家人移民加拿大,并轉學到多倫多大學。
他在 2005 年在多倫多大學獲得數學理學學士學位,2007 年獲得數學理學碩士學位,2013 年獲得計算機科學博士學位。他的博士生導師是 Geoffrey Hinton。
他和 Hinton 一起開發的 AlexNet,在 ImageNet 大賽上,碾壓了其他大廠,将識别準确率提升了 60%。
2012 年 11 月至 12 月,Sutskever 在斯坦福大學跟随吳恩達做了大約兩個月的博士後研究。随後,在 Hinton 的召喚下,他返回多倫多大學并加入了 Hinton 的新研究公司 DNNResearch。
在那場知名的「百度,谷歌,DeepMind,微軟商戰」的競價拍賣中,谷歌笑到了最後,成功招募到了 Hinton 和 Ilya。
Ilya 加入 Google Brain 後,與另外兩位同事合作創建了「序列到序列學習算法」,并參與了 TensorFlow 的開發。
2015 年底,他被馬斯克挖到了 OpenAI,成爲了聯合創始人兼首席科學家。
馬斯克在 11 月 9 日 Fridman 的播客中稱,自己和谷歌創始人本可以修複的朋友關系,因爲他把 Ilya 挖到了 OpenAI,而徹底破裂。
馬斯克說「當時(谷歌 DeepMind)Hassabis 在一邊,我在另一邊(都在争取 Ilya)。這是我經曆過的最艱難的招聘戰之一,但這确實是 OpenAI 取得成功的關鍵。」
馬斯克補充說,「Sutskever 除了聰明之外,還是一個心地善良的好人(a good human — smart, good heart)」。
位于 OpenAI 權力中心的男人
上個月,一向回避媒體聚光燈的 Ilya 接受了《麻省理工學院技術評論》(MIT Technology Review)的長篇采訪。
這位以色列裔加拿大人告訴該雜志,他的新研究重點是如何防止超級人工智能的失控,盡管目前它還不存在。
而在今年早些時候,基于同樣的目标,Ilya 的導師,人工智能教父 Hinton 離開了谷歌。
Hinton 警告說,人工智能公司的軍備競賽正在給人類造成危險,如 OpenAI 的 ChatGPT,我們很難防止壞人利用它做壞事。
2012 年,Hinton 和他的兩位研究生,其中包括 Ilya,開發了大名鼎鼎的 AlexNet,展現了神經網絡在模式識别方面的強大能力,——比人們普遍認識到的要強得多。
之後,谷歌收購了 Hinton 的公司 DNNresearch,并聘請了 Ilya。在谷歌工作期間,Ilya 幫助證明了 AlexNet 在圖像方面的模式識别能力同樣适用于單詞和句子。
在被馬斯克挖到 OpenAI 後,Ilya 在開發大型語言模型(LLM)方面發揮了關鍵作用,包括 GPT-2、GPT-3 和文本到圖像模型 DALL · E。
而去年年底發布的 ChatGPT 在不到兩個月的時間裏獲得了一億用戶,掀起了當前的人工智能熱潮。
Ilya 說,ChatGPT 讓人們看到了人工智能的可能性,盡管有時它返回的結果并不正确,讓人們大失所望。
Ilya 最近的關注點放在了人工智能的潛在危險上,他認爲超級人工智能有可能在十年内出現。
Ilya 所說的超級人工智能并不是僅僅能與人類匹敵的通用人工智能(AGI),它将比人類更聰明、更強大。
而對于人工智能安全性的争論,正是 OpenAI 領導層變天的導火索。
Ilya 與 Altman 在如何快速商業化生成式人工智能産品,以及采取哪些步驟等問題上存在分歧。
Ilya 在接受采訪時表示,任何人構建的超級智能都不能叛變,這一點非常重要。
爲此,Ilya 想要的是引導人工智能系統與人們的預期目标或道德原則保持一緻,而不是讓它追求非預期目标。
今年七月,Ilya 和同事 Jan Leike 撰寫了一份 OpenAI 公告,内容涉及一個關于超級智能對齊的項目。
他們警告說,雖然超級智能可以幫助解決世界上許多最重要的問題,但它也可能非常危險,并可能導緻人類喪失權能,甚至導緻人類滅絕。
OpenAI 董事會知多少
Altman 出局、Brockman 辭職,OpenAI 奉上的宮鬥大戲的熱度堪比自家的開發者大會——相比于開發,還是吃瓜更重要。
爲了更好地吃瓜,小編在這裏幫大家理出一條 OpenAI 董事會變動的時間線。
今天的一切是否早已在過去埋下伏筆?讓我們來一探究竟。
OpenAI 成立于 2015 年 12 月 11 日,董事會由 Elon Musk 和 Sam Altman 擔任聯合主席。
到了 2016 年 12 月 31 日,董事會加入了 Chris Clark(擔任 COO)和 Jonathan Levy(秘書、财務主管)。
2017 年 3 月,Open Philanthropy 向 OpenAI 捐贈了 3000 萬美元,其創始人 Holden Karnofsky 加入了 OpenAI 的董事會。
2017 年 12 月 31 日,公開資料顯示董事會成員新增了 Greg Brockman(與 Altman 同進退的好兄弟)和 Ilya Sutskever(上面提到被馬老闆挖過來的)。
2018 年 2 月 20 日,馬斯克被從董事會中除名。官方表示馬斯克離開是爲了避免潛在的沖突,但記者報告說,領導層的分歧才是主要原因。
2018 年 3 月,LinkedIn 創始人兼 Greylock 合夥人 Reid Hoffman 加入董事會。
2018 年 4 月,Quora 首席執行官兼前 Facebook 首席技術官 Adam D'Angelo 加入董事會。
2018 年 9 月,Sue Yoon 加入董事會。之後在 2019 年 11 月,她離開了董事會。
到了 2020 年 12 月 31 日,官方的公開資料顯示,此時的董事會成員爲:Ilya Sutskever、Greg Brockman、Sam Altman、Reid Hoffman、Shivon Zilis、Holden Karnofsky、Adam D ’ Angelo、Tasha McCauley。
2021 年 5 月 3 日,衆議院共和黨議員、前中央情報局特工 Will Hurd 加入董事會。
2021 年 9 月 8 日,喬治城大學安全與新興技術中心主任、前霍爾頓 · 卡諾夫斯基開放慈善事業主任 Helen Toner 加入董事會。
2021 年秋,Holden Karnofsky 辭去了董事會的職務,因爲他的妻子 Daniela Amodei 正在與她的兄弟 Dario Amodei 一起創辦 OpenAI 的主要競争對手 Anthropic。
鑒于 Helen 和 Holden 通過開放慈善事業的聯系,以及 Holden 的董事會席位似乎是永久性的,Helen 似乎是被 Holden 選中來接替他的席位。
之後的日子裏,一些人由于種種原因離開了董事會,隻剩下著名的「六大金剛」:Ilya Sutskever、Greg Brockman、Sam Altman、Adam D ’ Angelo、Tasha McCauley 和 Helen Toner