騰訊科技訊 6 月 28 日消息，據國外媒體報道，自從 OpenAI 在 2022 年底發布人工智能聊天機器人 ChatGPT 以來，其首席執行官山姆 · 奧特曼（Sam Altman）迅速嶄露頭角，成爲科技界的明星。OpenAI 現已跻身全球估值最高的初創公司之列，而奧特曼本人也在大部分時間裏，作爲人工智能未來的代言人，頻繁地穿梭于全球各地，與世界各國政要會面。那麽，他是如何積累起如此巨大影響力的？
外媒近期上線《智啓：OpenAI 的崛起》（Foundering: The OpenAI Story）系列音頻節目，詳盡地探索了奧特曼的崛起之路，以及他如何在這場構建領先人工智能技術的激烈競賽中脫穎而出。同時，節目也觸及了人工智能技術可能給人類生存帶來的威脅，以及一場幾乎颠覆一切的 " 宮鬥 "，這場 " 宮鬥 " 曾讓奧特曼陷入絕境，但他最終再次站了起來。
在這些節目中，記者采訪了人工智能領域的多位領軍人物，試圖解讀炒作背後的真相，并深入探索人工智能究竟是改善人類生活的工具，還是潛在的毀滅者。但更重要的是，這也是奧特曼的故事，他是這一切的核心。外媒與奧特曼的朋友、家人和合作夥伴進行了交談，試圖揭開他的神秘面紗，探究他如何一步步走向權力的中心。
節目總共五集，騰訊科技将陸續推出。
本期爲第三集，深入剖析了 OpenAI 的内部争議，以及奧特曼作爲人工智能英雄的崛起。節目分爲兩部分，第一部分（第三集）聚焦于 OpenAI 的内部沖突和山姆的個人品牌建設；第二部分（第四集）則将更多地關注奧特曼的妹妹安妮 · 奧特曼（Annie Alman）的生活，以及圍繞貧困和人工智能經濟的辯論。
往期直達
OpenAI 崛起大揭秘第一彈：弄權高手，奧特曼靠人脈積累起巨大影響力
OpenAI 崛起大揭秘第二彈：馬斯克退出内幕曝光，奧特曼趁機上位
以下爲第三集節目文字内容：
01 AI 烏托邦：理想與現實的沖突
在夏威夷北岸的蔥郁叢林中，我們的故事悄然展開。今天，我們将開始一段深入的駕車之旅，穿越茂密的森林，經過雙子瀑布。在這片生機勃勃的土地上，安妮 · 奧特曼（Annie Altman），山姆 · 奧特曼的妹妹，坐在乘客座位上，與我們同行。
安妮的生活是一段不斷遷徙的曆程。過去兩年，她一直在尋找一個穩定的安身之所，卻屢屢受挫。從新搭建卻家徒四壁的蝸居，到栖身朋友家的地闆，再到陌生人的客廳，她的生活充滿了不确定性。在短短一年内，她竟搬了 22 次家，有時甚至隻能短暫停留一兩天。她的故事，是對奧特曼故事的重要補充，展現了科技繁榮背後不爲人知的一面。
與此同時，在數千英裏之外的舊金山，她的哥哥奧特曼在 2023 年度過了輝煌的一年。ChatGPT 取得的巨大成功讓 OpenAI 聲名鵲起，奧特曼本人更是被《時代》雜志評爲年度 CEO。他花了幾個月的時間周遊世界，與世界大人物們讨論人工智能的未來，自信地預言一個沒有貧窮的烏托邦世界即将到來。奧特曼的言論，充滿了對未來的無限憧憬。他相信，人工智能的發展将爲人類帶來前所未有的富足——食物充足，醫保健全，居者有其屋。他的聲音，成爲了人工智能時代的号角，引領着人們向着一個更加美好的世界前進。
然而，安妮的生活現實卻與奧特曼的願景形成了鮮明對比。她在無家可歸的邊緣掙紮，而她的哥哥卻在舞台上暢談着技術的無限可能。這種巨大的反差，不禁讓人深思：技術的進步是否真的能夠普惠每一個人？奧特曼所倡導的人工智能烏托邦，是否能夠照進現實？
這是一個關于夢想與現實、技術與人性交織的故事。奧特曼兄妹兩人的生活軌迹，讓我們看到了人工智能時代光與暗的兩面。随着 ChatGPT 的誕生和普及，我們不禁要問：人工智能将如何定義我們的未來？在這個故事中，我們或許能找到一些答案。而安妮的生活，則是對未來最深刻的注腳。這次夏威夷之旅，不僅穿越了叢林，更穿越了現實與理想，技術與生活之間的複雜關系。奧特曼兄妹的故事，是對這個時代最深刻的反思，也是對未來最真摯的探詢。
02 AI 革命的理想與現實之辯
随着 OpenAI 的成立和發展，它的員工們逐漸感受到他們所研究的人工智能技術的深刻含義。人工智能開始展現出一些連它的創造者也不完全理解的行爲，這種不可預知性在團隊中引起了分歧。一些包括奧特曼在内的人認爲，全能的計算機智能将爲世界帶來積極的影響；而另一些人則擔憂，這種力量可能走向反面，造成無法挽回的後果。這些願景極端而兩極分化，就像天堂和地獄一樣截然不同。
伴随着 OpenAI 内部的分歧，ChatGPT 正式發布。這不僅是 OpenAI 的一個決定性時刻，也是整個人工智能領域的裏程碑。在這段時間裏，人們熱議的兩個預測是：人工智能将讓人類滅絕，或将徹底改變工作的定義。第一個預測引發了激烈的争議，而第二個預測則相對容易接受——工作将發生改變，經濟必須适應新的局面。
2021 年，大約在 OpenAI 發布 ChatGPT 一年半前，OpenAI 的技術一直在迅速獲得新的能力。當時，OpenAI 正在構建越來越強大的模型，例如 GPT-2 和 GPT-3，它們已經能夠用文本内容進行訓練并産生越來越類似人類的文本輸出。不過，這種快速的進展雖然對奧特曼和 OpenAI 是有益的，但也讓一些 OpenAI 的員工感到緊張，甚至是那些高層員工。
時任 OpenAI 研究副總裁的達裏奧 · 阿莫迪（Dario Amodei），在 Logan Bartlett 的播客節目中表達了他的焦慮。他回憶起 2018 年或 2019 年第一次看到 GPT-2 時的感受：" 我被吓到了。這太瘋狂了。這在世界上是前所未有的。" 他看着自己在 OpenAI 幫助構建的模型，感到的是一種恐懼：" 我爲什麽害怕？這個東西将會非常強大。它可以摧毀我們，如果我們不理解這樣的模型，如果它想制造混亂并摧毀人類或其他什麽，我認爲我們基本上沒有辦法阻止它。"
這種不安在 2021 年達到了頂點，阿莫迪和 6 位 OpenAI 的同事一起離開了公司，創辦了競争對手大語言模型開發公司 Anthropic，專注于構建安全的人工智能。他們認爲，需要在某個組織内确保這些模型的安全性，這個組織真正地把安全原則從頭到尾地貫徹實施。他們的離開對 OpenAI 來說是一個重大打擊，投下了一層不信任的陰影，暗示着他們對奧特曼是否能做出正确決策的疑慮。
到了 2022 年底，OpenAI 發布了 ChatGPT，但當時并沒有立即引起巨大反響。逐漸地，人們開始嘗試并接受了 ChatGPT。人們開始慢慢注意到并讨論起這項技術，ChatGPT 的關注度随之日益上升。ChatGPT 并非一項徹底的新技術，而是基于已存在的 GPT-3.5 模型。它之所以引人注目，是因爲它以一種創新的方式呈現了人工智能技術 -- 作爲一個免費且用戶友好的聊天式人工智能工具。這種工具的交互體驗流暢自然，給人一種與能夠即時創造回答的真人交流的感覺。盡管這些人工智能生成的回答有時需要進一步的核實，但人們仍然對這種新穎的互動方式表現出了極大的興趣和迷戀。
ChatGPT 在短短兩個月内就達到了 1 億用戶，創下了當時最快的用戶增長記錄。相比之下，TikTok 用了 9 個月，Instagram 用了 2 年半才達到同樣的用戶規模。ChatGPT 即便在犯錯時也顯得智能，它促使許多人開始思考人工智能将如何改變他們的生活。這項技術立即找到了一些實際應用，人們開始用它來更快地編寫代碼，更流暢地翻譯文件，起草電子郵件。學生們用它來幫助完成家庭作業，盡管這有時也導緻了作弊的問題。所有這些興奮和關注對 OpenAI 來說是一個巨大的推動。
OpenAI 的品牌知名度和成功迅速飙升，人們立刻将其視爲炙手可熱的人工智能公司，一個人工智能領域的領導者。同時，奧特曼的公衆形象也随之水漲船高，人工智能成爲了 2023 年的熱門話題，而奧特曼則是其中的主角，他成爲了家喻戶曉的名人。整個科技行業和投資者都迫切希望向人工智能公司投入資金，廣告牌上宣傳的都是新的人工智能初創公司。ChatGPT 的熱潮不僅讓各類人士對尖端人工智能技術産生了興趣和認識，還激發了一小部分長期關注人工智能的人的擔憂，他們認爲人工智能将變得越來越強大，最終可能會失控并威脅到我們，我們必須想辦法從人工智能手中拯救人類。
03 人工智能安全漸成主流
在離開 OpenAI 并創立 Anthropic 之前，達裏奧就表達過他對人工智能毀滅世界的恐懼，這聽起來可能有些荒謬，但對許多人來說卻是極其嚴肅的問題。在矽谷，認爲人工智能可能很快會毀滅我們的亞文化，正在不斷增長并變得越來越有影響力。這些想法現在是人工智能領域的重要動力，許多從事人工智能工作的科技人員感到他們正在從事對人類來說可能最爲重大的事情，關乎整個星球的生死存亡。這種信念影響了數十億美元資金的流向，決定了哪些問題得到解決，哪些問題被忽視。
ChatGPT 讓這些擔憂進入了公衆意識。一項英國的調查顯示，在 ChatGPT 發布後的一年裏，認爲人工智能可能是人類滅絕的主要原因的人數翻了一番多。需要明确的是，這種觀點存在很大的争議，即使在矽谷，許多人也認爲人工智能毀滅論是一種宗教意識形态，但也有很多人對此深信不疑。
科技界人士 Chiau Yuen 已被一種日益增長的信念所說服：人工智能有朝一日或許會威脅到人類的生存。他之所以會有這樣的想法，源于閱讀了頗具影響力的 AI 末日預言者 Elezar Owski 所撰寫的作品，這些文字讓他深信，一個由超級智能人工智能主導的未來，可能很快就會到來。
" 我意識到，這一切正在發生，我們正逐步逼近那個時刻，它可能在我的有生之年，甚至在我退休之前就會降臨，"Chiau Yuen 如此說道。基于這種信念，他做出了一個深思熟慮的決定：不再爲自己設立退休賬戶。對于那些認爲這愚蠢的人，Chiau 有着自己的見解：" 我真心認爲，到了我退休之時，金錢将失去它的價值。到那時，世界可能已經變得面目全非，我們或許已經不複存在，或者生活在一個難以想象的後奇點時代。到那時，金錢和傳統價值觀都變得無關緊要。" 奇點是指機器人變得比人類更聰明的那個時刻。
對 Chiau 來說，這不僅僅是跳過退休賬戶那麽簡單。一旦他真正開始相信這一點，他生活中的其他事情似乎就不再重要了。他退出了數學博士項目，5 年的學習後，他開始疏遠老朋友，他認爲他們沒有理解形勢的嚴重性。Chiau 說：" 這仿佛我内心深處的一個黑洞，悄然改變着我對事物重要性的認知。越是深究，越覺得其他一切都微不足道。我開始意識到，除了這個問題，其他所有事情都無足輕重了。或許，這才是唯一值得關注的重大問題。"
這聽起來可能令人感到恐懼、偏激，甚至荒誕。但是，如果同人工智能領域的專家以及矽谷的人士深入交流，就會發現這種觀點并不鮮見。有時它以低聲細語的形式出現，有時則被公開大聲讨論。他們可能會用到人工智能安全、人工智能一緻性或人工智能存在風險等專業術語。但歸根結底，他們關注的是同一個核心問題。
在人工智能界，許多有影響力的人物堅信，20 年後的世界将與今天截然不同。一些人預期它将帶來前所未有的美好，而另一些人則擔憂它可能帶來的災難。他們認爲，我們應當投身于避免人工智能走向災難性結局的事業中。這種信念，正驅動着他們緻力于确保人工智能的未來發展是安全和可控的。
在過去的 5 到 10 年間，衆多知名且富有的科技界人士紛紛将資金投入到這一新興領域。Facebook 的聯合創始人達斯汀 · 莫斯科維茨（Dustin Moskovitz），以及加密貨币領域的争議人物山姆 · 班克曼 - 弗裏德（Sam Bankman-Fried），都已承諾向人工智能安全項目投入數億美元。科技界的領軍人物們簽署了公開聲明，警示人工智能可能給人類文明帶來的風險。Chiau 和他的同仁們認爲，讓更廣泛的人群認識到這一威脅至關重要，他們像傳教士一樣，在各種活動中不遺餘力地傳播關于人工智能的啓示。起初持懷疑态度的人們，在經過一番深入讨論後，要麽被徹底說服，要麽感到深深的恐懼。
Chiau 還表示：" 這實在是一個令人恐懼的念頭。想象一下，如果十年内所有人都不複存在，那是多麽可怕的前景。在心理上，如果有人真的讓你認真考慮這種可能性，這似乎是一種自我保護。雖然一開始覺得這太荒謬，怎麽可能發生？但如果有人花了四個小時，極其認真地向你闡述，' 假如這是真的呢？' 那種恐懼感便油然而生。這時，你會不禁自問，那我該怎麽辦呢？"
Chiau 在緻力于人工智能安全的組織中工作，并且主動參與理性研讨會，試圖激發更多年輕人對人工智能安全的興趣和投入。在他們看來，當談論到什麽處于危險之中時，這關乎的是我們整個銀河系的存亡。這是一個觀點，即目前最重要的任務是确保人工智能的未來發展是安全和可控的。然而，也有一些極其聰明的人，包括學者和研究人員，他們認爲這種對人工智能末日的狂熱既令人沮喪又具有誤導性，比如專注于計算語言學的艾米麗 · 本德爾（Emily Bender）和麥克（Mic）。他們認爲，這種狂熱是一種幹擾，因爲現實世界中正在發生着各種切實的傷害，包括勞動力剝削、數據盜竊、歧視和霸淩等。我們越是沉迷于那些令人興奮的、動作電影般的幻想風險，我們就越少有時間和資源去真正解決和處理當前正在發生的實際傷害。
04 AI 時代個人英雄主義的雙刃劍
艾米麗及其他專家警告，關于人工智能末日的讨論，其實是一種巨大的幹擾，它就像一個不斷閃爍的警報器，尖叫着世界末日的來臨，攫取了所有的注意力。這種恐慌讓我們輕易忽視了當前人工智能技術所帶來的實際問題，例如刑事司法系統中人工智能的種族偏見、非法使用藝術家的版權作品來訓練模型等。更不用說，這些技術的監控應用，如何被過度用于監管社區，以及面部識别技術在識别深色皮膚女性時的不準确性。在谷歌上搜索 " 黑人女孩 "，出現的往往是不雅内容。我們尋找和信任可靠信息的能力受到威脅，這些問題涉及公共衛生、民主等多個領域，一個接着一個。
艾米麗提醒我們，這些都是迫在眉睫的問題，人工智能正在以這些方式傷害着人們。然而，我們卻在浪費時間讨論那些幻想中的場景，僅僅因爲一些富人開始關注它們。同時，人工智能末日的狂熱也被視爲另一種人工智能炒作。如果這些系統真的如此強大，以至于可能毀滅世界，那麽它們必然非常強大。這種炒作是關鍵，因爲它讓超級強大的人工智能系統對投資者和員工都充滿了吸引力。艾米麗認爲，關于人工智能末日論的信念不僅有害，而且具有誤導性。盡管如此，她也承認，許多關心人工智能安全的人是出于真誠的動機，這是一些人真正的信仰。那些深陷這些信念的人，相信自己是故事中的英雄，将要努力阻止超級智能人工智能接管世界的局面。這種信念是真誠的，盡管可能有些錯位。
艾米麗在這裏觸及了一個真實的問題：成爲英雄的沖動，已成爲人工智能行業的驅動力之一。Chiau 再次提到了這種非常男性化的願望，渴望成爲英雄。大多數人在任何有意義的層面上都沒有機會成爲英雄。這種想法不僅僅是 " 如果我能成爲英雄 "，而是 " 如果我能通過我的智慧成爲英雄 "。對一些人而言，這可能很難自我承認，因爲這聽起來顯得他們有些不成熟。
Chiau 直言不諱地指出了許多人在這個領域的動機：他們希望感到自己很重要，他們的工作在宇宙中具有重大意義。人們希望感到自己的生活有所作爲，這是巨大的吸引力之一，比如 " 如果這是人類曆史上最重要的時代，我們現在的選擇将影響未來 "。那些在社交媒體 X 上開始深入投入這些議題的人會使用非常誇張的語言，" 我們将要征服星辰！"" 我們将要創造銀河文明！" 有些人可能認爲這些誇張的說法是在開玩笑，但這的确是他們的信仰。他們真誠地相信，由于我們在用人工智能建造東西，這是人類曆史上最重要的時代。
奧特曼在一次又一次的個人演講中傳遞着一個信息：我們正在研究的人工智能将具有劃時代的意義。在接受外媒的采訪時，奧特曼強調了人類當前面臨的機遇，認爲這種機遇是幾個世紀難得一遇的。他認爲，人類有機會重新構建社會經濟契約，确保每個人都能被納入這個體系，成爲赢家；同時避免在這個過程中自我毀滅。他談到了創造超越人類能力的人工智能意味着什麽，這對我們的人性、未來世界的模樣，以及人類在那個世界中的地位将産生怎樣的影響。他質疑這個強大的技術将如何公平地被分享，人類如何确保不是隻有少數在舊金山的人做出決策并收獲所有的好處。在奧特曼的願景中，他正在建造的人工智能将重塑人類世界、人性、以及社會契約。他的話語中流露出英雄主義的色彩，這與艾米麗和 Chiau 所指出的不謀而合。
05 奧特曼私下爲末日做足準備
在美國科技圈，像奧特曼這樣自認爲足夠聰明、能夠解決重大問題的人并不罕見。比如那些計劃在舊金山附近建造一座新型城市的科技億萬富翁，或是認爲自己發明了更優金融系統的數字加密貨币産業。奧特曼可能也自視爲一位英雄，他理解一個引人入勝的故事所能帶來的激勵力量。2019 年，他甚至聘請了一位小說家爲 OpenAI 撰寫科幻短篇小說。這位小說家名叫帕特裏克 · 豪斯（Patrick House），一位神經科學家兼作家。盡管他不确定 OpenAI 是否仍在使用他的作品，但這表明了他們認識到故事的價值。
奧特曼顯然受到了某些類型小說的影響，許多創業公司都是由故事驅動的，這些故事通常源自科幻小說。一個強有力的故事能夠激勵員工更加努力地工作。在舊金山這樣一個世俗化的城市，如何激勵人們投身于可能避免世界末日的事業？或許可以通過提供一個基礎文件和一個啓示錄式的神話，告訴他們正在努力避免災難的來臨。這種叙事方式是曆史上衆所周知的激勵手段。所有這些都讓我們懷疑，奧特曼是否真的相信人工智能可能會毀滅人類。
實際上，奧特曼對于人工智能的看法在多年中經曆了顯著的變化。2015 年，他曾明确地表達過自己的憂慮，認爲高級人工智能可能成爲人類持續存在的最大威脅。在早期的談話中，他曾以一種輕佻的語氣提到，人工智能有可能導緻世界的終結。這種态度在《紐約客》的一篇人物介紹中得到了體現，奧特曼在其中被描繪爲一個末日準備者。
他向《紐約客》記者透露，自己已經儲備了槍支、黃金、彈藥、抗生素，以及以色列國防軍的防毒面具。他還提到在美國加州大瑟爾（Big Sir）擁有一片土地，确保自己在世界末日時可以避難。對于那些熟悉大瑟爾的人來說，這聽起來頗爲諷刺，因爲那裏的土地實際上正在經曆嚴重的侵蝕，導緻岩石滑落、道路封閉，以及食物和物資供應的困難。這似乎是一個不穩定的地點，與末日地堡的理想之地相去甚遠。
當外媒對此提出質疑時，奧特曼試圖輕描淡寫，稱這不過是出于一種娛樂，滿足了他對小男孩生存幻想的渴望。在那些年之後，奧特曼明顯地避免提及大瑟爾的财産或他的槍支儲備。他的妹妹安妮表示，盡管她未曾見過那個地方，但這符合她對奧特曼的了解——一個極度注重安全、準備在最壞情況下囤積資源的人。可以推測，奧特曼确實擁有這些儲備，隻是選擇不再公開讨論它們。
奧特曼的這些行爲和言論，不僅揭示了他對人工智能潛在風險的深刻認識，也反映出一種深層的生存本能和對未來不确定性的個人準備。盡管他的觀點随着時間的推移而發生了變化，但他對人工智能技術可能帶來的深遠影響的擔憂始終如一。在公衆面前，奧特曼可能更多地聚焦于人工智能的積極潛力和它對社會的積極變革。但他個人對潛在風險的警覺和準備，卻從未放松。
奧特曼以其獨到的洞察力和遠見卓識，幫助建立了全球領先的人工智能公司，随着公司聲望的日益提升，他個人的知名度也随之水漲船高。他逐漸放棄了那些關于人工智能可能毀滅人類的極端言論，轉而以更加審慎的态度探讨社會将如何被人工智能深刻改變，并樂觀地預測這種變化總體上将導向積極的未來發展。
自從奧特曼因推出創新的 ChatGPT 技術而聲名鵲起後，他開始将自己和 OpenAI 塑造成一種更爲中立、理性的形象。盡管他的觀點似乎随着時間和環境的變化而發生了轉變，但一些人在私下裏表達了對奧特曼的不滿，他們認爲奧特曼有時會根據聽衆的期待來說出他們想聽的話。如果表現得更爲溫和，能夠幫助他獲得更多的支持和認同，他就會相應地調整自己的言辭。
奧特曼深知一個引人入勝的啓示錄式故事所具有的強大影響力。我們往往更容易被那些戲劇性的恐懼所吸引，而忽視了那些緩慢而持續的風險。在 2015 年的 Airbnb 會議上，奧特曼以核能爲例進行了深入的讨論，這個例子同樣适用于人工智能的風險評估。我們可以從他的語氣中感受到一種自信，甚至是一絲傲慢，他似乎在指出自己對那些其他人忽視的合理事物的認識。他強調，人們通常對于戲劇性的極端風險更爲敏感，而對于漸進的風險往往估計不足。
奧特曼指出，核能實際上更安全，其安全性遠超煤炭數千甚至數萬倍。然而，大多數人仍然更願意選擇生活在煤炭發電廠附近，而非核電廠。他們甯願在三十年後因肺癌而去世，也不願意面對核災難的戲劇性死亡。這種對風險的誤判是人類的常态，人類往往低估了那些緩慢而持續的問題，如錯誤信息、種族偏見，而高估了那些可能帶來巨大沖擊但發生概率較低的戲劇性事件。
或許，正是因爲這種對戲劇性災難的偏好，人工智能行業一直在向我們講述着各種災難性的故事。奧特曼的雙面人格，一方面展現出人工智能技術帶來的無限輝煌，另一方面也透露出他對這一技術潛在風險的深刻認識和隐憂。（編譯 / 無忌）
