文｜黎詩韻
編輯｜鄭玄
我們被倡導要想明白自己的目标是什麽、并做出計劃。然而，兩位人工智能研究者卻認爲，這隻适用于普通的小願望。
一旦涉及過于高遠的、不确定能否實現的目标，比如打造AGI（通用人工智能）、登月計劃等等——那麽根據興趣進行自由的、開放性的探索，才更能實現想要的。他們把這一觀點寫成了《爲什麽偉大不能被計劃》一書。
在這本書出版的2015年，OpenAI成立，它一開始就确定了實現AGI的目标。九年間，OpenAI取得的巨大成功，似乎證明了人工智能界是一場「目标導向者」的勝利。「OpenAI看似是目标導向的，但實際上在内部，它有很多有趣的、開放性的探索。」本書作者之一肯尼斯·斯坦利(Kenneth Stanley) 告訴極客公園。
2015年，他任美國中佛羅裏達大學計算機科學系助理教授，和前博士生喬爾·雷曼（Joel Lehman）一起合著了該書。第二年，他們進入産業界，加入Uber AI團隊。2020年，他們又一起加入了OpenAI，肯尼斯擔任OpenAI「開放性研究團隊」負責人。
OpenAI的CEO Sam Altman是他們這本書的推崇者。他曾在一個公開場合提到，OpenAI訓練模型時會設定指标，指标的上升讓人開心，「但對于找出一個新的研究範式，就不起作用了」。受書中觀點啓發，他願意嘗試更多新奇性探索，「我們願意耐心等待數月、數年，大多數時候它（探索）并不起作用，但當它起作用的時候、效果驚人地好。」
加入内部，肯尼斯和喬爾看到開放性探索如何塑造了OpenAI的成功。例如ChatGPT本是一個意料之外的項目，它曾是内部幾大方向中最邊緣的；碰巧撞上了谷歌的Transformer架構；而Dario Amodei（前OpenAI研發副總裁、現Anthropic CEO）提出Scaling Law（縮放定律）是爲了測試模型安全性、而非湧現智能等等。
随着2022年底GPT-3.5發布，全球人工智能行業開啓了激烈競賽。在二人看來，AGI仍然是一個遙遠的、而非近在咫尺的目标，僅靠Scaling Law 這個「踏腳石」還不夠。在這種情況下，開放性探索非常重要——而目前行業極具收斂的目标和計劃、以及激烈的競争，反而可能讓研究走進「死胡同」。
即便OpenAI也面臨挑戰，喬爾感覺到，一種緊張的氛圍開始在内部出現，開放性探索的空間也在縮窄。2022年，他們離開了OpenAI。随着人工智能越來越強大，他們希望更多研究一些開放性命題，比如AI會如何影響人類和社會、如何從哲學角度看待AI等等。
目前，喬爾加入了一家研究虛拟生命的公司，而肯尼斯創辦了基于開放性系統的社交網絡Maven、并獲得了Sam Altman的投資。他們都在開放性探索的路上繼續前進着。
以下爲極客公園與肯尼斯、喬爾的對話實錄，經整理後發布：
《爲什麽偉大不能被計劃》一書的英文版 | 圖片來源：受訪者
OpenAI看似是「目标導向型」的成功，實則是「開放性探索」的成功
極客公園：先從這本書的起源聊起，我很好奇你們十年前是怎麽想到提出「爲什麽偉大不能被計劃」這個觀點的？你們最早研究人工智能的「開放性系統」，做了圖片孵化器、機器人迷宮等實驗，好奇哪些事實讓你們覺得這個觀點是成立的、并且可以應用到除了人工智能以外的其他領域？
Kenneth：最初的想法來自于人工智能領域的研究，也就是我們所說的「開放性系統」（Open-Endedness）。這種系統早已存在，比如生物的演進，在幾十億年中，從單細胞進化爲各種各樣的動物。又比如簡單的發明創造，我們可能花了數千年，才創造了一個輪胎、空間站和計算機等等。
作爲曆史學家和計算機科學家，我們希望用算法打造一個「開放性系統」，想了解它的工作原理，怎麽不斷創新、産生非常有趣的東西。所以我們做了「圖片孵化器」網站。這個 AI 系統沒有任何目标，人們随機在上面将不同圖片進行「繁殖」，這些圖片會構成類似生物學「分支樹」的關系。
雖然每個用戶都是從亂塗亂畫開始的，但漸漸我們看到了一些熟悉的、可辨認的圖片，比如蝴蝶、頭顱、行星、汽車等等。我們進而得出一些有意思的洞察，比如你孵化出了一張酷似車的圖片，但你最初并不是以此爲目标的。而如果你以此爲目标，你根本得不出這張照片。這是矛盾之處。遵循這樣的原則，我們提出了基于新奇性探索、而非目标驅動的搜索算法。
最後我們發現，這不僅适用于算法領域，也适用于個人和機構。每一個個人和機構都會設定目标，但這種目标驅動并不總是對我們的創造和發明奏效。Joel和我覺得這個過程非常重要，值得公開說出來。我們試圖找到相關信息、并進行多次對話，這就是我們這本書想法的來源。
極客公園：可否理解爲這本書的核心觀點是，無論在算法、個人還是組織層面，面對一個更遙遠的目标，制定計劃不如自由探索有效？
Joel：一般來說，普通的做法是我們樹立一個目标、制定計劃。但我們是不制定目标、隻是去探索新奇的東西。比如迷宮裏的機器人，如果給它制定走出迷宮的目标，那它可能很難走出這個死胡同。但如果不告訴它去哪裏、而是讓它自由探索，它會更容易走出迷宮。
肯尼斯和喬爾做的「圖片孵化器」網站，從亂塗亂畫中出現了一些熟悉的、可辨認的圖片 | 圖片來源：受訪者
極客公園：我注意到，在你們剛出完這本書不久的2015 年，OpenAI 成立了。這家公司從創立起就确定了一個非常偉大的目标，那就是實現AGI，它的每個步驟都是圍繞這個目标進行。今天我們看到，OpenAI似乎取得了成功。所以我想問，在你們這本書出版後的十年裏，OpenAI的故事是否反而證明了「目的驅動模式」的成功？
Kenneth：非常好的問題。我認爲非常重要的一點就是要注意到，OpenAI雖然取得了一定的進展，但還沒有取得AGI的成功。另外，我們也要意識到，公司往往會向公衆講述目标，但這其實是它們一種叙述的手段，這并不意味着企業内部就是這麽推動工作的。
如果你去看OpenAI的幕後，你會發現它們不僅僅是目标導向的，它們也有很多有趣的、開放性的探索。實際上，ChatGPT就是這樣一種開放性探索，它是在一個意料之外的項目。我并不認爲OpenAI的工作人員最早就設立了要做ChatGPT這個項目（的目标），或者說預見到了它能取得如此巨大的成功。它們隻是在探索過程中發現這個項目非常有意思，然後一步步更新叠代才有了今天的ChatGPT。
我們書中也提到過，創新究竟該如何推進呢？其實就是我們從有趣的一些想法開始，那究竟它是否會将我們引導向最終 AGI 的成功呢？其實這并不一定，但這是非常重要的一步，它們最終都有可能帶來革命性的變化。
另外，它也能實現其他一些重要的成就，比如吸引更多的投資。我們知道GPT-2并沒有帶來巨大的革命性變化，但我們仍然要盡可能地宣傳，才能吸引更多投資來發展GPT-3、GPT-4，并最終向AGI的目标前進。OpenAI就是這麽做的，這正體現了我們書中的觀點。
Joel：OpenAI看上去是一個目标導向型的成功，但其實OpenAI剛成立的時候，内部有嘗試很多不同的發展方向。比如當時他們非常看重強化學習，包括視頻、遊戲的強化學習，爲此内部做了很多嘗試。
而且GPT背後的核心技術是Transformer架構，這是由谷歌推出的，所以OpenAI也是在谷歌這樣的巨人的肩膀上不斷發展的。如果回顧10年前、20年前、30年前、40年前，沒有這麽多「踏腳石」的情況下，OpenAI也不可能取得這樣的成功。
極客公園：你們定義了OpenAI看似是目标導向、但其實是自由探索式的成功。OpenAI内部人士曾跟我們說，鋪墊GPT 3.5 的幾個「踏腳石」都是随機碰撞出來的，比如聊天機器人曾是内部最邊緣的項目、碰巧撞上了谷歌的Transformer架構、而Dario提出Scaling Law也不是爲了智能湧現而是想測試模型是否安全……這是否跟你們了解的情況接近？
Joel：是的，這些随機探索的确是非常重要的。尤其是OpenAI，它很早就開始推進 Scaling Law等嘗試，并且不斷在做選擇，這是非常正确的。
Kenneth：的确探索很多時候是随機的、根據興趣進行的。但Dario提出Scaling Law，這不僅是一個随機的探索、這其實也是一個目标導向性的做法。
這背後是團隊從自己的興趣出發、做了很多嘗試，想要找到解決方案，最終提出了Scaling Law這個解決方案。這某種意義上也是一種目标導向。
極客公園：所以開放探索和目标驅動并不是彼此對立的，而是可以統一和融合的？
Kenneth：的确兩者是可以并存的，能夠從一方轉向另一方。但是在我看來，這其實也是一個非常困難的問題。什麽時候該進行轉向？什麽時候是目标導向、什麽時候是興趣導向？這非常微妙，很難去找到最佳的轉變時機。
極客公園：你們能夠看到 OpenAI的内核其實是一個「開放性探索」的組織，這是當初吸引你們加入OpenAI的重要原因嗎？
Joel：哈哈，有許多原因。一個最主要的當然因爲OpenAI是AI領域的前沿公司。另外，它的确一開始就是一家「開放性探索」的公司，雖然它們肯定有一些目标導向的元素存在。這與我的個人興趣也是相關的。所以确實很難拒絕這樣一份工作。
極客公園：那麽Sam有看過你們這本書嗎、他是否認同你們提出的「開放性探索」觀點？這是他招募你們進入OpenAI的原因嗎？
Kenneth：Sam 非常喜歡我們書中的想法，我相信他是在觀看了我關于這本書的演講時接觸到這些想法的。他曾在公衆場合提到，他受到了這本書的一些想法的影響。Sam 對這些想法是非常包容和開放的，我覺得他暴露在這些想法當中、他認爲這些想法非常有意思。
當然，我在OpenAI也不僅僅是因爲Sam，内部很多人都有開放的想法。比如Jeff Clune（前OpenAI研究團隊負責人），他在我們之前加入OpenAI。他也覺得，開放性探索是一個有趣且值得投資的領域。我們在那個時候達成了共識，所以我們被雇傭了。
在我看來，這本書并不是OpenAI的工具書。但我相信，這一文化确實對他們有影響，開放性探索是非常重要的。
極客公園：Ken當時是OpenAI「開放性探索」團隊的負責人，當時OpenAI對你們的期待是怎樣的？有給你們制定了怎樣的目标嗎？
Kenneth：我們面臨的挑戰在于，幾乎任何一家公司都會感興趣設定目标。但如果我們探索的一些想法，并不完全是目标導向的、甚至會背離目标的話，我們肯定會面臨一些溝通上的挑戰。這有一些複雜，因此在日常的工作中，我們需要取得一個平衡。
有時候很難理解我們來自哪裏、雇傭我們幹嘛。他們可能會非常奇怪，覺得我們做的是非客觀性的一些東西。不過最終他們意識到，對于推動AGI來說，這些工作是非常有用的。這已經超出了傳統團隊的認識。
Joel：這裏面分爲兩部分：一個層面是關于組織的架構，很多人會困惑我們的工作，所以我們要跟他們解釋我們在做什麽，并找到我們工作跟AGI目标的關聯度；另一方面是我們實際工作的開放性，要創造新的東西。
就像Ken說的，我們需要在公司内部找到一種開放性的方法，既要讓大家了解我們在做什麽，也要新奇探索、取得進步，這兩者的平衡是一種微妙的舞蹈。
極客公園：你們是否感受到，在「開放性探索」上，OpenAI這樣的初創公司可能比科技巨頭做得更好？我曾聽說，Google雖發明了 Transformer 架構，但沒有率先做出GPT，是因爲它的技術路線更目标導向——Google更強調 Encoder（輸入），因爲它可以解決更多具體業務問題；而 OpenAI 更強調 Decoder（輸出），因爲它沒有那麽強的業務導向，更願意像無頭蒼蠅一樣做「開放性探索」，你們怎麽看？
Joel：我的理解是谷歌也有這種對話模型，也是很領先的。談到好奇、興趣、技術能力、率先應用于大衆等，我認爲其中包含了不同的變量。谷歌是一個更大的機構，可能有更多的「橡皮章」、繁文缛節這些東西，而OpenAI可能更開放。
Kenneth：我隻是想說，涉及到任何一個大機構的成功，都包含了很多要素。不過我有一點我同意，OpenAI确實在探索方面做得更好、它有更大的意願去冒險，而谷歌可能在這方面更加謹慎和猶豫，比如在公衆面前展示技術，谷歌可能會慢一步。
這可以理解。因爲谷歌作爲一個大公司，在發布東西之前，需要做很多嘗試和實驗。他們更不願意失敗，它對于風險更有顧慮。但這并不一定是确定的，隻是我們的看法。
我們看到，谷歌注重強化學習和各種方法，OpenAI也注重強化學習、并在不同領域下注，最終它們都取得了成功。
極客公園：距離你們當時寫這本書已經過去快 10 年了，中間你們還加入了OpenAI、Uber等科技公司，經曆了這些再看這本書，你們覺得書中哪些觀點仍曆久彌新？哪些需要變化更新？
Kenneth：回頭望，這已經是我們這本書出版的第九年了。關于建立目标，我們有過非常多的、激進的争論，但許多事情随着時間的推移得到了驗證。
正如你剛才提到的一些例子，有些人可能會認爲有些目标是有效的。但在過去十年的時間裏，我們越來越發現，目标導向有時會讓人感到困惑，會讓你有盲點、抓不到其他機會、看不到更多的可能。我們認爲十年後、甚至一百年後，這個觀點可能都不會過時。
在每一章中，我們都引入了一些曆史案例和引語，比如「行者無疆」——一個好的旅行者是沒有固定計劃的，他對于要到達哪裏并不太清楚——我不确定中國的哲學家老子是否在幾千年前提出了這種描述。這是一種哲學的觀點、一種經驗之談，并不是有很多科學證據，有時候聽上去是反直覺的、是一個離經叛道的東西。
社會中确實有一些問題，例如，整個社會的組織都在圍繞目标推動，并且把「目标是非常重要的」這種文化意識強加給我們。以教育爲例，老師根據考試内容教學、學生根據考試内容學習，這就是目标對教育的影響。在書中，我們強調了目标的影響是無處不在的，我們需要去掙紮往前走。
再次強調一下，我們認爲「偉大無法被計劃」這個觀點，是不會發生變化的。如果我們的人生隻是目标導向的話，将無法取得完整的幸福。這也是爲什麽我們這本書如此成功和受歡迎的原因。
沿着Scaling Law、卷模型性能，可能會走到「死胡同」
極客公園：雖然你們反對「目标導向」，但似乎目前全球人工智能界的目标都非常收斂且明确，一是追上OpenAI等公司、二是盡快實現AGI，你們怎麽看這種現象？這種「目标至上」會是你們反對的嗎？
Kenneth：謝謝您的問題。我同意在目前的人工智能行業中，大家定了這兩個宏偉的目标，覺得「北極星」就在那兒、我們要朝着那兒走。不過回到我一開始說的，企業往往會對外有一套說辭，但它們内部可能并不是這樣做的。
我主要想談一談，我們到底離這樣的目标有多遠？如果說隻差一個「踏腳石」、離得非常近，就像上世紀60年代制定登月計劃的時候、已經有很好的技術基礎，那麽我們可以通過制定目标去實現。
但問題在于，如果我們還需要很多個「墊腳石」、離目标還很遠，那設定目标可能會讓我們陷入困境、無法前進。曆史上有很多這樣的例子。比如在2017年，我們聽到有人說第二年就會有自動駕駛汽車上路，但其實不是這樣。
因此，單純采取目标導向的方法往往會無法實現目标，可能是因爲目标設定的時間太早、或者太過雄心勃勃。很多人認爲現在人工智能領域隻差一個「踏腳石」，隻需要擴大規模就可以了，這其實是過于簡單化了這個問題。但在我看來，真正核心的「踏腳石」還沒有被發現、我們并不僅僅差一個「踏腳石」。我們很可能正在陷入目标的陷阱和迷思之中。
Joel：的确我們現在處于一個「荒誕」的曆史階段，全球的科技公司都在追求AGI，這種過于聚焦的目标是人類「革命性的時刻」。但我們要知道，AGI的發展還要很長的時間。
現在許多人認爲，隻需要擴大規模、參數，有更多的數據和算力，就可以可發展人工智能。這對我來說有些無聊，或者說有些無趣。這并不是最核心的「踏腳石」，我相信還有其他的路徑和方法需要我們去探索。
極客公園：爲什麽我們離AGI不隻是「一步之遙」、不隻差一個「踏腳石」？你們做出這個判斷的依據是什麽？
Joel：我們到底距離AGI有多遠，其實大家是有認知偏差的。就像自動駕駛一樣，并不太清楚到底需要多少個「踏腳石」。我們唯一确信的是，如果有一步之遙的東西，你必須要在那裏、你必須去做、必須去放大。
Kenneth：最近有一個類比，GPT-3就像是一個孩子，GPT-4像是高中生。但實際上，ChatGPT更像是教科書中的知識，在某些方面，它可能超越了我們，而在其他方面，它可能不如我們。奇特之處在于，我們會感到某些東西非常接近了，但這不一定是AGI。
但我們也不清楚究竟還要等待多久。我們甚至可能需要一位「愛因斯坦」的出現，才能達到下一個台階。
極客公園：這讓我想到你們在書裏提到，其實從單細胞到人類的進化過程中，重要的「踏腳石」不隻是智力，還包括對稱性等。那麽對于AGI 來說，Scaling Law 帶來的智能提升會是一個靠譜的踏腳石嗎？它能支撐多久？
Kenneth：智能這個詞很容易讓人困惑，因爲它涉及許多方面。Scaling Law遵循一些普遍的原理，但它也會喪失一些東西。比如在技術上，你必須将大量人類數據進行更好的壓縮和訓練，它不再是傳統意義上的智能、而是不斷提升的智能。我們最終可能會遇到一個瓶頸或死胡同、會在訓練上遇到走不下去的時刻。
就像OpenAI在不斷擴大規模、增加參數，但它還是遇到了瓶頸（注：比如GPT-5處于難産狀态）。這也是爲什麽我們需要新的踏腳石。
Joel：如果想要達到AGI那模糊的彼岸，有點像做一個賭注，很多明顯的路徑都必須要去嘗試。因爲AGI可能不僅來自AI，還可能來自數學、哲學和其他領域。
《神經語⾔模型的縮放定律》論文寫道，随着模型⼤⼩、數據集⼤⼩和⽤于訓練的計算量的增加，語⾔建模性能平穩提升 | 圖片來源：OpenAI
極客公園：現在各大人工智能公司都在這一維度激烈競逐，而你們在書裏提到，競争其實跟「開放性探索」相悖、因爲它是極其收斂的目标。你們怎麽看待現在人工智能領域的激烈競争？
Kenneth：這就是目标導向的悖論，它會使得我們更加盲目，對其他方法和路徑視而不見。像OpenAI、Anthropic和Google這樣的公司，它們存在激烈競争，因爲哪家如果落後了，就可能無法獲得更多資金，公司會受到生存威脅。
在這種競争中，大家唯一的目标就是活下來。公司更傾向于繼續沿着既定路徑前進、擴大規模。如果這時候嘗試創新，會面臨失敗的風險、可能會被踢出局。所以創新往往會減少。我認爲在這樣的競争環境下，很容易進入死胡同。
不過當這些企業遇到瓶頸時，他們可能會意識到需要轉向、進行更多開放性探索。
極客公園：這跟很多人的看法相反，一般我們認爲激烈競争會推動模型智能水平的提升、加速AGI的實現，但在你們看來反而會适得其反？激烈競争會弊大于利嗎？
Kenneth：是的，這可能有些反直覺。雖然競争會引發「軍備競賽」，使得模型性能有所提升，但過度的競争會減少開放性的嘗試，使得創新更加聚焦和局限、無法取得真正的進展。
極客公園：說了這麽久的「開放性探索」，那麽對于現在目标和路徑已經相對明确的人工智能企業來說，它們應該怎樣才能做好這件事？你們對于「開放性探索」有沒有一些建議？
Kenneth：我們會發現，很多公司太早就建立了一套體系，并且非常目标導向。如果一些探索在測試中表現不佳，他們就會放棄研究。我認爲這會減少開放性探索的機會，是非常不利的。
對于AGI也是如此。當前的Transformer架構可能還遠遠不夠，甚至我們對神經網絡的運作機制還了解得不夠，目前仍有許多失敗的案例。我們并不清楚究竟還差多少步才能實現AGI，因此我們需要多重的、開放性的探索。
在當前階段，對于OpenAI和其他公司來說，它們不僅需要改善現有的模型、更需要探索新的路徑，這兩件事需要同步推進。
離開OpenAI，人工智能界還需要更多「開放性探索」
極客公園：不久前Ken接受了一個采訪，提到你離開OpenAI是因爲「有一些的沮喪、有一些頓悟」，我好奇你的「沮喪」、「頓悟」是什麽？方便跟我們分享一下嗎？
Kenneth：讓我想一想，我并不是說我對OpenAI不滿意，而是我越來越意識到，我對人工智能的影響存在一些擔憂。現在有很多關于人工智能消極影響、安全以及文明終結的讨論，這都是很明顯的一些問題。
我越來越感覺到，社會中存在一些對人工智能的不滿情緒、人們感到越來越多的失落，大家會追問生命的意義究竟是什麽？比如，未來機器人可能有數百萬個非常好的想法，一秒之間就可以超越我們一生的成就、或者比我們個人多年的經驗更具智慧，那麽我們如何再去做有創意性的工作、并從中獲得成就感呢？這是一個非常嚴重的問題。
我感覺我的工作，似乎在某種程度上加劇了人們的這種擔憂和焦慮。因此，我想思考人工智能未來的發展方向、解決它深層次的問題——我們究竟該如何改善人工智能，使其更好地爲人類服務，促進人類之間的連接，而不是加劇競争？
這是我最近非常關注的問題，我認爲需要進行開放性探索，我相信這對人類社會會更有助益。基于這樣的原則，我成立了一家自己的公司，希望建立一種開放性的社交網絡。
極客公園：你創立了Maven，它是一款基于開放性探索的社交産品，可不可以介紹下Maven是一個怎樣的産品？爲什麽它能解決你提到的人工智能存在的問題？
Kenneth：你可能也注意到一些社交媒體存在的問題，比如信息繭房、對立觀點、不斷争論的意識形态導向、甚至陰謀論等。那麽這些問題從何而來呢？實際上，這是因爲這些系統的質量有問題。
幾十年前人們就曾說過，人們會産生各種各樣的觀點和内容，但很多内容是負面的或不好的。而現在的社交媒體過于關注内容的受歡迎程度。我們認爲這種信息分發模式需要改進。
所以我創立了Maven，這是一個基于内容質量來推薦的「開放性系統」。人們打分、評價，去找到好的内容。這種客觀的評價方式、而不是靠點贊排序，才能帶來更好的内容。
極客公園：我注意到Twitter 的聯合創始人投資了你、Sam 也投資了你，爲什麽Sam會決定投資你？他對你這次創業有沒有提出建議？
Kenneth：Sam的确投資了我的公司。我寫完這本書之後，也想讓「開放性系統」被更多人使用，于是萌生了成立自己公司的想法。從職業發展的角度，Sam給了我許多建議和見解。
從孵化投資人到OpenAI的CEO，Sam自己的職業發展就是非常了不起的跨越。他給我的建議是，我們不一定要沿着一份工作、一條道路前進，我們的職業發展也可以非常多元化。這給我很大的啓發。 極客公園：Joel 離開 OpenAI 的原因是什麽呢？
Joel：主要是我的職業發展追求跟它不再完全契合。最初加入OpenAI時，這家公司還處于比較基礎的階段，内部有機器人、人工智能等多個研究方向。然而，後來這家公司變得更加聚焦，我也注意到公司内部存在一些緊張的氛圍，這對開放性探索有一定限制。
正如Ken提到的，我們需要考慮到AI對社會的影響、一些哲學問題、還有如何利用人工智能讓個人更好發展等等，這些都是很有趣的研究角度。我希望能繼續研究，而OpenAI可能并不是發展這些興趣的最佳場所。
離開OpenAI後，我加入了一家研究虛拟生命（artificial life）的初創公司，現在還在繼續從事開放性系統的研究。
肯尼斯加入OpenAI時發布的推文 | 圖片來源：X
極客公園：你們提到，即使是OpenAI這樣最頂尖的人工智能公司，随着公司規模的擴大，它在開放性探索上的投入也開始變得緊張。你們對此有什麽擔憂嗎？
Kenneth：的确如此，資金的壓力還是非常明顯的，如果沒有明确的回報，管理層可能會減少開放性探索的投入。不過對于一些創新型的初創企業來說，應該還好。
像llya（注：OpenAI前首席科學家）剛剛離開了OpenAI，成立了自己的公司。他說他唯一的目标就是實現AGI，而且投資不是大問題。這表明即使沒有明确的回報，也能得到資金支持，許多研究人員都在進行各式各樣有趣的探索。
關于OpenAI，有人說它現在變得更加商業化，我不太确定。不過内部肯定還有一些開放性探索的機會。因爲商業化并不是OpenAI的最終目标，也不是很多OpenAI研究人員的唯一目标。
極客公園：Sam 有跟你們聊過這方面的困惑嗎？比如随着公司規模變大，他是否感到開放性探索更難做了？
Kenneth：這是一個非常有趣的問題。 我不太清楚Sam的腦袋裏在想什麽，因爲他沒有跟我聊過這些。
極客公園：最終回到個人，你們是人工智能研究員和創業者、也是普通人。如果你們自己有一個看起來很遠大的、又很不确定的目标，你們會怎麽實現它？你們對普通人有什麽建議嗎？
Joel：作爲一個研究者，有些東西可能是似是而非的。我們書中的一些想法并不一定直接帶來成功，有時需要我們慎重認真的看待和廣泛閱讀。
作爲個人，我認爲保持謙卑、開放探索的心态非常重要。因爲偉大是不能被計劃的，但我們可以找到偉大中的亮色。
Kenneth：作爲個人，你要保持均衡。比如當你過于專注于目标，生活可能就沒有那麽有趣。就像有人的目标是賺錢，但如果發現了其他有趣的機會，即使這個機會的收入并不高、也不在主流地帶，我也建議他嘗試。
作爲研究者，事實上，我想都沒想過什麽東西會導緻AGI。我相信直覺。也就是說，我會遵循我的興趣行動，而這會引導我發現更多的有意思的東西。看起來我離目标更遠了，但實際上，興趣才會通往最終目标的實現。
