2024年3月初,NVIDIA英偉達CEO黃仁勳(Jensen Huang)回到了他的母校美國斯坦福大學,參加了斯坦福商學院SIEPR經濟峰會以及View From The Top 系列活動。
在兩場已公開的對話視頻中,黃仁勳詳細談到英偉達的市場價值定位、AGI(通用人工智能)發展、AI 算力的增長,以及如何通過人類反饋将 AI 根植于人類價值觀話題,而且他也回應對于"皮衣黃"來曆等。
黃仁勳坦言,AI 技術縮小了人類的技術差距。
他稱,目前大約有1000萬人因爲知道如何編程而有工作,這讓其他80億人"落後",而接下來,如果生成式 AI 逐漸取代編程的話,編程技術将可能變得不那麽有價值了。
"未來,我們都可以編程計算機。你隻需要看看YouTube,看看所有使用提示工程(prompt)的人,所有孩子正在用它(AI)做出驚人的事情。他們不知道如何編程,但隻是和ChatGPT交談就反饋到正确的編程手段做這個、做那個。所以,AI 和未來與人交流沒有什麽不同。這是計算機科學行業對世界的偉大貢獻。我們縮小了技術差距。"黃仁勳表示。
黃仁勳強調,未來五年内,AGI将通過人類測試。包括律師考試、胃腸病學等專業測試中,AGI都可以發揮關鍵作用。不過他也承認,AGI可能還很遙遠,因爲目前專家們對于描述人類思維如何運作方面仍然存在分歧。
談及 AI 算力,黃仁勳強調,在未來的10年裏,英偉達将會把深度學習的計算能力再提高100萬倍,從而讓 AI 計算機不斷訓練、推理、學習、應用,并持續改進,未來不斷将超級 AI 轉變爲現實。
"因此,我們會做更多的計算。我們會将計算的邊際成本降低到接近零。"黃仁勳表示。
談到地緣政治風險,黃仁勳回應稱,英偉達幾乎就是地緣政治風險的典型例子,原因在于公司制造了一種非常重要的 AI 工具。
他認爲,AI 将是這個時代的"界定技術"。過去6-9個月時間裏,他已經發現,未來 AI 将成爲一個國家的"主權",即一個國家必須控制自己的數字智能,必須緻力于控制你的 AI 主權。
"美國完全有權決定這種工具在它認爲應該限制的國家。美國有這個權利,并且行使了這個權利。對于我們來說,首先,我們必須理解這些政策,我們必須保持敏捷,以便我們能夠遵守這些政策。一方面,它限制了我們在某些地方的機會,另一方面,它在其他地方打開了機會。"黃仁勳稱。
黃仁勳也回應了"皮衣黃"來曆。他坦言,這套皮衣是妻子給他買的,他自己幾乎不購物。黃仁勳笑着說,這件皮衣已經足夠好了,如果不喜歡這件可以去再買一件,不然他可以一直穿皮衣。
"我儲備了一大堆黑色皮夾克。"黃仁勳表示。
而在另一場斯坦福對話當中,黃仁勳談及創辦英偉達并獲得資金的前後過程,并指出"我們正處于計算的世界"。他認爲,未來人類處理信息的方式将從 AI 上發生根本改變,這就是英偉達制造芯片和系統的根本原因。而生成式 AI 将從一個信息"種子"出發,計算的未來将高度依賴生成而非檢索。
面對英偉達暴跌80%時的"低谷期",黃仁勳坦言當時希望公司要回到事情的"核心"——堅持我所相信的,然後什麽都不改變、繼續前進。
黃仁勳還認爲,液冷技術将成爲 AI 算力的下一個趨勢性領域。
黃仁勳強調,未來十年,英偉達最大的挑戰來自技術和市場,其他的挑戰還來自工業、地緣政治和社會層面。他希望所執掌的英偉達能通過堅持不懈地去做擅長且熱愛的事,被曆史以"改變了一切"而聞名。
(本文首發钛媒體App,作者|ChatGPT、林志佳,編輯|林志佳)
以下是黃仁勳在斯坦福大學的兩場訪談對話全文,僅供參考:第一個對話信息來自黃仁勳與MBA ’24 Shantam Jain的對話,翻譯部分自@美國攻略,并由钛媒體編輯進行人工整理和修正。
主持人:Jensen,非常榮幸能邀請到您,謝謝。
黃仁勳:能來這裏我很高興,謝謝。
主持人:爲了慶祝您回到斯坦福,我想先聊聊您離開斯坦福的那段經曆。當時您加入了 LSI Logic(美國邏輯芯片公司),那是當時最棒的公司之一。您也跟很多人建立了良好的聲譽,但卻決定離開去創業。是什麽促使您做出這樣的決定?
黃仁勳:是 Chris 和 Curtis(兩位英偉達聯合創始人、黃仁勳的好友)。當時我在 LSI 做工程師,他們在 Sun 工作。我當時跟 CS 領域最聰明的人共事,制造各種工作站包括圖形工作站。有一天 Chris 和 Curtis 說,他們想離開 Sun 。他們想讓我幫忙想想做什麽好。我的工作很棒,但他們堅持要我加入他們一起思考如何創立一家公司。他們過來時,我們就在 Denny’s 聚會,那幾乎算是我最初效力的公司。我成爲 CEO 之前的第一份工作是洗碗工,那份工作我做得很出色。總之,我們經常聚會,而那段時期正值微處理器革命。
那是在 1992 到 1993 年期間,PC 革命才剛開始。革命性的 Windows 95 還沒上市,奔騰處理器甚至還沒發布。這一切都發生在 PC 革命爆發之前,顯而易見,微處理器會非常重要。于是我們想,爲什麽不創立一家公司解決通用計算機無法解決的問題呢?這便成了公司使命:制造特殊的計算機解決普通計算機無法解決的問題。直到今天,我們還一直專注于此。
看看這些我們開拓的市場以及市場中的各種問題,比如計算機藥物設計、天氣模拟,材料設計。這些都是我們引以爲豪的東西。機器人、自動駕駛汽車,以及人工智能的自主軟件。随後我們不斷地推動着技術進步,最終計算成本接近于零。這促成了一個全新的軟件開發方式,計算機自己編寫軟件,也就是我們今天熟知的人工智能。就是這樣。
主持人:這就是整個曆程,感謝大家的光臨(玩笑)。嗯,如今我們都在思考這些應用。那時,LSI 的 CEO 說服了他的最大投資者 Don Valentine 與您會面。就是紅杉資本的創始人。我可以看到很多創始人都滿懷期待地向前傾着身子。但您是如何說服矽谷最炙手可熱的投資者爲您投資的呢?您的團隊是初創者,産品是面向尚不存在的市場。
黃仁勳:我不知道如何寫商業計劃書,所以我去了家書店。那時候還有書店呢。商業書籍區,有這本書,作者我認識,Gordon Bell 。這本書我應該再去把它找出來,不過它非常厚。書名叫《如何寫商業計劃書》。
對于一個很小衆的市場來說,它的書名相當具體了。感覺像是他特意爲十幾個人寫的,我就是其中之一。我買了這本書,立刻就意識到這是個壞主意,因爲 Gordon 非常聰明,聰明的人總有很多話想說。
我很确定 Gordon 想從頭到尾教我怎麽寫商業計劃書,所以我拿起這本書,大概有 450 頁後,好吧,我從沒讀完過,根本讀不完。我随便翻了幾頁,然後想:算了。等我讀完它的時候,公司估計都倒閉了,錢也花光了。
Laurie 和我當時銀行裏隻有六個月左右的生活費,我們已經有了 Spencer 和 Madison,還有一條狗,所以我們一家五口隻能靠手頭這點存款生活。因此我時間不多,我沒有寫商業計劃書,而是直接去找了 Wilf Corrigan 。
他曾經有一天給我打電話說:「嘿,您離開公司了,您都沒告訴我您幹嘛去了,我希望您能回來給我講講。」我回去給 Wilf 做了詳細的介紹。Wilf 聽完我的介紹後說:「我完全不明白您在說什麽。」「這是我聽過最爛的創業推銷之一。」
随後他拿起電話打給 Don Valentine,他打電話給 Don 說:「Don,我要給您送個小夥子過去,我希望您能給他投資。他是我在 LSI 最棒的員工之一。」
我學到的教訓是:你可以忽悠一個精彩的面試,你也可能會把面試搞砸,但你無法逃避自己的過去,所以要把自己的「過去」做好。從很多方面來說,我說我是個好洗碗工是認真的,我可能是 Denny’s 餐館史上最好的洗碗工。我有規劃,注重組織有序,我準備工作很用心,然後全力以赴地清洗盤子,之後我被提拔爲服務員,我是 Denny’s 最好的服務員。
我從不空手離開工作區,也不空手回來,我效率很高。總之,我最終成爲了 CEO,但我仍在努力成爲一名優秀的 CEO 。
主持人:您曾說要做最好的,要成爲後來獲得投資、做同樣事情的 89 家公司中最優秀的。當公司的資金僅夠維持 6 到 9 個月時,您意識到最初的願景行不通。在如此不利的情況下,您如何決定下一步來挽救公司呢?
黃仁勳:我們創立了「加速計算」(NVIDIA)公司。問題是,它用來做什麽?它的殺手級應用是什麽?這就是我們做出的第一個重大決定,也是紅杉投資的項目。我們的第一個重大決定就是,首個重點應用領域是 3D 圖形。技術将是 3D 圖形,而具體應用程序将是電子遊戲。
當時,廉價的 3D 圖形技術是不可能做到的。矽谷圖形芯片産品要上百萬美元,做廉價版本很難。而電子遊戲市場當時的價值是零美元、不存在。你有一項難以商品化的技術,瞄準了一個尚未存在的市場。這個交集就是我們公司的創立點。
我還記得當我完成展示後,Don 說了句話,當時很有道理,今天聽來也是:「初創公司不該投資初創公司或者跟初創公司合作。」他的觀點是,爲了讓 NVIDIA 成功,我們需要另一家初創公司也取得成功,就是 Electronic Arts 。那家公司的 CTO 隻有 14 歲,得由他媽媽開車送他上班。他想提醒我,這就是我要依靠的人。他說:「你要是賠了我的錢,我殺了你。」這就是我對第一次會議的回憶。
不過盡管如此,我們還是創造了點東西。接下來幾年我們着手去開拓市場,爲 PC 創造遊戲市場。這花了很多時間,我們直到今天還在耕耘這塊領域。
我們意識到,爲了把百萬美元的計算機圖形技術商品化,使其适配進入售價 300 美元、 400 美元、 500 美元範圍的電腦,你不僅要創造新技術,還得發明新的計算圖形處理方式。同時你還需要去開拓全新的市場。因此,我們必須不斷創造新技術、新市場。這種「創造技術、開拓市場」的理念定義了我們公司。我們做的幾乎每件事情都是創造技術、創造市場。這就是人們說的「生态鏈」的本質。過去 30 年裏, NVIDIA 的核心領悟就在于:爲了讓别人購買我們的産品,我們必須親手開拓這個新市場。
這就是爲何我們很早就開始布局自動駕駛、深度學習,以及在很多領域都處于前沿,包括計算藥物設計和發現。我們在創造技術的同時緻力于開拓所有這些不同領域的市場。
接下來我們步入正軌,然後微軟推出了 Direct 3D 的标準。這催生了成百上千家公司。幾年後我們發現自己在跟幾乎所有人競争。我們賴以創立公司、開拓消費級 3D 圖形的那項發明技術,居然跟 Direct 3D 标準不兼容。
我們創立公司,想把百萬美元的發明技術商品化,但很快發現與新的标準不兼容。我們不得不更改賽道,否則就隻能倒閉。但我們不知道如何按照微軟的方式來構建它。
我還記得那次會議上的讨論:我們現在有 89 個競争對手,我們知道之前的方式不對,但我們不知道正确的方式是什麽。
幸運的是我又看到一家書店 Fries Electronics 。我不知道它現在還在不在。有個周末我帶女兒 Madison 去書店,然後就看到了這本書 OpenGL 手冊,定義了矽谷圖形的計算機圖形處理方式。一本 68 美元,我帶了幾百塊錢,買了三本。
我把書帶回辦公室,對大家說:「我找到了咱們的未來。」我把三本書分發下去傳閱,中間有大幅的折疊插頁,這個插頁就是 OpenGL 流水線計算機圖形處理流水線。我把它交給了與我/共同創辦公司的那些天才手中。
我們以前所未有的方式實現了 OpenGL 流水線,構建出了世界從未見過的東西。其中有很多經驗教訓。對我們公司來說,那一刻給了我們極大的信心:即使對所做的事情一無所知,也能成功創造出未來。
現在這就是我對任何事情的态度。當有人跟我說我沒聽過的事情,或者聽說過但不懂原理,我的想法總是:能有多難呢?可能看本書就搞定了,可能找一篇論文就能搞清楚原理。
我确實花了很多時間閱讀論文,這是真的。當然,你不能照搬别人的做法,指望會有不同的結果。但你可以了解某件事情的實現原理,然後回歸問題的本質,扪心自問:基于現有的條件、動機、手段和工具,以及一切如今的變革,我會怎麽去重做這件事?我會如何重新發明它?我會如何設計它?
如果今天造一輛車,我會沿用過去的方式嗎?如果今天讓我創造一台計算機,我會采用怎樣的方式?如果今天讓我來編寫軟件呢?
這麽想有道理嗎?即使是今天的公司,我也經常回歸本質,從頭思考。這是因爲世界已經變了。過去編寫軟件的方式是單一的,是爲超級計算機設計的,但現在軟件架構已經解耦等等。我們今天思考軟件、計算機的方式一直在改變。經常促使公司和自己回歸問題本質,會創造出大量的機會。
主持人:而當您運用這種技術時,結果可能是革命性的。公司上市之後您獲得了更快的發展,四年裏營收增長了九倍。但您卻因爲一通化學教授的電話轉變了 NVIDIA 的創新方向。能講講嗎?您是如何把談話與 NVIDIA 的未來聯系起來的?
黃仁勳:記住,公司本質上是在開創一種全新的計算方式。計算機圖形是第一個應用領域,但我們一直知道會有其他應用。陸續有圖像處理、粒子物理、流體等領域開始使用我們的技術。還有很多我們想做、覺得會很有趣的應用領域。
我們努力讓處理器更具編程性,從而可以表達出更多樣的算法。後來我們發明了可編程着色器,讓成像和計算機圖形的各部分都具備了可編程性。這是一次重大突破。我們試圖找到可以充分利用我們處理器(它和 CPU 有很大區别)來計算更複雜算法的方式。
大概是 2003 年,我們創造了 CG 。C for GPUs 的簡寫。它比 CUDA 早了大約三年。編寫那本曾挽救公司的教科書的作者,Mark Kilgard,他也編寫了關于 CG 的教科書。
CG 非常酷,我們還出了教科書。我們開始教人們如何使用它,也開發了一些相應的工具。後來有好幾位研究人員發現了 CG,斯坦福大學的很多研究人員和學生都有在用它。很多後來成爲 NVIDIA 工程師的人當時也在搗鼓這個。
馬薩諸塞有幾位醫生開始使用 CG 進行 CT 圖像重建。我飛過去見了他們,問他們拿這個工具在幹什麽。他們告訴了我他們的工作。然後一位量子化學家也用它來表達他的算法。
我意識到有迹象表明人們可能真的開始有需求使用它。這讓我們逐步确信我們應該更深入地發展這塊領域。這個計算領域、這種計算形式能解決普通計算機難以解決的問題。這也強化了我們的信念,讓我們繼續前行。
主持人:每次聽到新的應用方式時,您都覺得很驚喜。這似乎貫穿了您在 NVIDIA 領導生涯中的一個主題,就像您在技術拐點出現之前就做出了賭注。當蘋果終于從樹上掉下時,您正穿黑色皮夾克在等着接住它。您是如何做到如此确信的?
黃仁勳:這總是感覺像是一個飛身接球,就像在飛身接球。你的行動源自于核心的信念。我們堅信可以創造出一種計算機能解決一般計算無法解決的問題。我們相信 CPU 的能力是有極限的,通用計算的能力也有極限。同時我們也知道能去解決一些有趣的問題。
但這些問題隻是有趣嗎?還是能擴展成有趣的市場?隻有當它們成爲市場時才能保證可持續性。
NVIDIA 有十年的時間在投資未來,但市場并不存在。當時隻存在一個市場:計算機圖形。十幾年的時間,推動我們今天發展壯大的市場根本不存在。那麽,你該如何繼續帶領身邊的所有人:公司、管理團隊、優秀的工程師、股東、董事會、合作夥伴?你帶着所有人上路,但根本沒有市場存在的證據。這是真的非常非常的具有挑戰性。
我們的技術可以解決問題,有研究論文爲證,這些都很有意思,但你得尋找市場。在市場出現之前,你仍然需要看到未來成功的早期指标。公司裏有一句行話叫關鍵績效指标 KPI 。不幸的是,KPI 很難理解,我覺得 KPI 很難理解。
什麽是好的 KPI 呢?當我們看 KPI 時,很多人都會說「毛利率」,但那不是 KPI,那是結果。你應該尋找未來成功的早期指标,而且越早越好。原因是你想盡早看到自己正走在正确的方向上。
我們有個短語叫 EIOFS「未來成功早期指标」的縮寫。我常使用這個詞,它能幫助人們、給予公司希望。看,我們解決了這個問題,那個問題,這個問題。市場尚不存在,但存在着一些重要的問題,解決這些問題就是公司的意義所在。我們希望可持續發展,因此必須有市場在某個時刻出現。
但是,你要把結果與你正在做正确的事情的證據脫鈎。這就是解決問題的辦法:你投資某個非常遙遠的事情,還得有信念堅持下去。辦法就是盡早找出你做的事情是否正确的那些指标。最開始得有一個核心信念,除非有什麽改變了你的想法,否則你就要繼續相信它,并且尋找未來成功的早期指标。
主持人:NVIDIA 的産品團隊使用過哪些早期指标呢?
黃仁勳:各種各樣的都有。我看到過這樣一篇論文,在此之前很久我遇到了需要我在「深度學習」領域提供幫助的人。那時,我甚至不知道深度學習是什麽。
他們需要我們創建一個領域特定的編程語言,這樣他們所有的算法都能在我們的處理器上輕松實現。我們創造了這個叫做 KU-DNN 的東西。它本質上是在深度學習領域的 SQL(數據庫語言)。而 SQL 則應用在存儲計算方面。
我們爲深度學習創造了一門編程語言,就像是該領域的 OpenGL 。他們需要我們做這個,這樣他們才能表達他們的數學計算。他們不懂 CUDA,但他們懂深度學習。我們在中間給他們創造了這個工具。我們之所以這麽做,是因爲即使當時市場規模是零……這些研究員身無分文,即使看不到财務回報、遙遙無期,隻要你相信,公司也願意去做。
這是我們公司的偉大能力之一。我們會問自己,這項工作是否有價值?它是否能在某個重要的領域推動科學的發展?注意,這是我從一開始就在強調的事情。從創立之初,我們就一直是注重工作的重要性而非市場規模。因爲工作的重要性是未來市場存在的早期指标。
沒有人需要做商業分析報告,沒有人需要給我看損益表、或财務預測。唯一的問題是,這項工作重要嗎?如果我們不來做的話,這些事還會不會發生?如果我們不做、事情也會自然發展,我其實特别高興。因爲你想想,你什麽都不用做,世界卻變得更好了。這是終極「懶人」的定義。從很多方面來說,你需要養成這種習慣。公司應該對别人總能做好的事情保持「懶惰」态度。
如果别人能做,那就讓他們去做吧。我們應該去做那些「如果我們不做就會出問題」的事情。
你必須說服自己:如果我不做,這件事就做不成。這是一項艱巨而重要的工作,它會賦予你使命感。我們公司一直在選擇這樣的項目,深度學習隻是其中之一。其早期成功的迹象是吳恩達的人工智能識别貓。Alex 檢測出了貓,雖然不是每次都能成功,但至少能證明這條道路可能有所發展。
我們分析了深度學習的結構,我們是計算機科學家,我們理解事物運行的原理。我們說服自己這個技術能改變一切。無論如何,這就是一個例子。
主持人:您的這些選擇取得了巨大的回報,字面、及比喻意義上都是。但金融危機期間,華爾街不相信您押注機器學習。公司市值蒸發 80%,您帶領公司經曆了非常艱難的時期。在那種情況下,您是如何掌控局勢、讓員工專注目标?
黃仁勳:我在那段時間的反應和過去一周的反應完全一樣。之前你問我本周的事我的反應沒有任何變化。本周與上周、或前一周毫無不同。當然,股價跌了 80% 确實有點難堪。你隻想穿一件「不是我的錯」的 T 恤出門。更糟的是你不想起床,不想出門。這些都很真實,但随後你還是得投入工作。
我在同一時間醒來,用同樣的方式規劃我的一天。我回歸初心:我相信什麽?你必須始終牢記核心,你相信什麽?最重要的事情是什麽?一項項确認。這樣做有幫助。家人愛我嗎?是的,很好。你就得逐條确認。再回到你的工作核心,繼續工作。然後每一次對話都回到工作核心,讓公司的注意力集中在核心上。你堅信嗎?有什麽東西改變了嗎?股價變了但還有其他東西變了嗎?物理定律變了?萬有引力變了?那些促使我們做出決定的事情,那些假設、那些信念有變化嗎?
因爲如果這些東西變了,那一切都得變。但如果它們不變,你也什麽都不需要改變。繼續走下去,這就是堅持的辦法。
主持人:和您的員工交流時,他們說您(不想公開露面)。他們說您在領導方面(連員工也不見。開玩笑的)。
黃仁勳:不,不幸的是作爲領導者你得讓人看到,這才是難的地方。
我是學電氣工程的,入學的時候年紀很小。我上大學的時候才 16 歲,很多事情都經曆得比較早。我有點内向,很害羞,不喜歡公開演講。當然今天能來這裏很開心……但這不是我的本性。當情況有挑戰時,站在你最關心的人面前并不容易。你能想象公司股價下跌 80% 時開會嗎?
作爲 CEO,我最重要的職責是站出來面對你們,解釋情況。有時候你不知道原因,不知道會持續多久、有多糟糕。你對這些一無所知,但仍然必須去解釋。面對所有這些人,你知道他們在想什麽。有些人可能認爲我們完了,有人可能覺得你是個白癡,有人可能在想别的事情。大家可能胡思亂想,你知道,但你還得站在他們面前去做艱苦的工作。
主持人:他們可能那麽想,但您領導的團隊沒有一個人離開。
黃仁勳:他們找不到工作,我一直這麽提醒他們。開玩笑的。我身邊都是天才,很不可思議。NVIDIA 衆所周知擁有全球最出色的管理團隊,這是世界上技術最深厚的管理團隊。我身邊都是這樣的人,他們都是天才。商業團隊、市場團隊、銷售團隊,都非常出色。工程團隊、研究團隊簡直難以置信。是的。
主持人:您的員工說您的領導風格非常投入。您有 50 個直接下屬。您鼓勵各級員工向您發送他們認爲五件最重要的事情,您不斷提醒大家沒有任何工作您看不上。能告訴我們您爲什麽設計這麽扁平的組織結構嗎?我們該如何思考未來要設計的組織架構?
黃仁勳:沒有任何工作我看不上。别忘了我曾經真是個洗碗工。我洗過很多很多廁所,比你們所有人加起來還要多。那些畫面揮之不去。我也不知道對你說什麽,這就是生活。
你不可能給我一項我做不了的工作。我做事情不是僅僅因爲它是否配得上我。如果你給我發東西想要我的意見,如果我能爲你提供幫助跟你分享我的思考過程,那我就能有貢獻,讓你看到我是如何進行推理的。了解一個人處理事情的思考方式能賦予你力量。你會想:「天哪,原來你是這麽思考這種事情的。」
其複雜程度不如你想象。你會知道原來這麽處理模糊不清的事情,你會知道如何處理無法估計的事,你會知道如何處理看似很可怕的事情,你會知道怎麽……明白嗎?我一直在示範給大家怎麽進行推理,戰略——如何預測某事如何分解問題。你在不斷地賦權衆人。我就是這樣看待這事的。如果你發東西給我審閱,我會盡力而爲,然後讓你知道我會怎麽做。這個過程中我也從你那裏學到了很多,對吧?你提供了大量的信息我學到了很多。
所以我覺得這個過程很有回報。有時候确實會很耗費精力爲了給别人增值,他們本來就很聰明,我身邊都是這種人。要想給他們增值,你至少要達到他們的水平。你必須進入他們的思維空間,這真的很難。需要消耗大量的情感和智力能量。在做完這樣的事情後,我會感到精疲力竭。我身邊很多優秀的人。
CEO 應該擁有最多的直接下屬,因爲能直接彙報給 CEO 的人需要的管理最少。若 CEO 的下屬很少,在我看來毫無道理,除非說, CEO 知道的信息最有價值、最機密。他隻能告訴給兩三個人,這些人也隻能告訴另外幾個人。我不認同這種「你掌握的信息就是權力」的文化或環境。
我希望我們都能爲公司做貢獻,我們在公司中的地位應該取決于我們解決複雜問題的能力、帶領他人取得卓越成就的能力、激發他人靈感的能力、賦能他人和支持他人的能力。這才是管理團隊存在的目的——服務其他員工,創造有利條件讓優秀人才願意來爲你工作,而不是去其他令人贊歎的高科技公司。他們選擇、自願來爲你工作。因此,你應該創造出能讓他們從事畢生工作的條件,這就是我的使命。
可能你已經聽過我說這件事而我也相信這一點。我的工作很簡單,就是要創造你能夠做畢生工作的條件。那麽我如何做到這一點?這種條件是什麽樣的呢?
嗯,這種條件會帶來很大的自主性。隻有當你了解環境時你才會獲得這種自主性,對嗎?你必須了解所處狀況的背景才能想出好點子。我必須創造讓你知曉背景情況的環境,你得有知情權。得到知情權的最佳方式是減少信息扭曲的層次。這就是爲什麽我很經常在這樣的場合下進行推理。我會說,這是最初的事實,這是我們擁有的數據。我要這樣進行推理,以下是一些假設。以下是一些未知因素,以下是一些已知因素。所以你就進行推理了。現在,你已經建立了一個高度自主的組織。NVIDIA 有 3 萬人。我們是世界上最小的超級公司。但每位員工都有很大自主權,每天幫我做明智決定。原因是他們理解我的狀态。他們理解我的狀态。我對人很透明,我相信我可以把信息托付給你。信息可能難理解、情況很複雜但我相信你可以應付。我對很多人說過「你們是成年人、可以應付這個的。」但有些人不是真正的成年人,隻是剛畢業(開玩笑的)。我剛畢業時不能算成年人,但我幸運地被信任和托付。我想這樣做。我想爲人們創造能夠做到這一點的條件。
主持人:我現在想談談大家都在想的話題——人工智能。上周,您說生成式人工智能和加速計算已經達到臨界點。随着這項技術變得越來越主流。您最興奮的應用是什麽?
黃仁勳:你必須回歸初心,問問自己什麽是生成式人工智能?發生了什麽事?我們有了可以理解事物的軟件它們可以理解爲什麽……我們将所有東西數字化了。基因測序,數字化基因。但這意味着什麽呢?那串基因序列有什麽意義?我們已經将氨基酸數字化但這是什麽意思呢?我們現在有能力數字化文字、數字化聲音,我們數字化圖像和視頻,我們數字化了很多東西。但是這意味着什麽呢?通過大量學習、大量數據以及從模式和關系中,我們現在理解了它們的含義。我們不僅理解它們的意思還可以在它們之間進行轉換,因爲我們了解這些事物在同一個世界中的含義。
我們不是分開了解它們的。我們是在同一個上下文中學習口語、文字、段落和詞彙。我們找到了它們之間的相關性,它們彼此都是有關聯的。現在,我們不僅理解了模态、每個模态的含義,我們還明白如何在它們之間進行轉換。顯而易見的應用如:視頻生成文本,就是字幕;文本生成圖像如 Midjourney;以及文本生成文本如 ChatGPT,太神奇了。我們現在知道,我們理解了含義,還可以轉換。某些事物的轉換等同于信息生成。
突然間,你得退後一步扪心自問,這會對我們所做的每一件事的每一層面帶來什麽影響?我在你們面前練習、我在你們面前推理。和十幾年前首次看到 AlexNet 時一樣,當時我就這樣推理。我看到什麽了?多有意思?它能做什麽?太酷了。最重要的是,這代表什麽?對計算領域的每一層意味着什麽?
因爲我們處于計算的世界。未來我們處理信息的方式将從根本上改變。這就是 NVIDIA 制造芯片和系統的原因。我們編寫軟件的方式也會從根本上改變。我們未來的軟件類型會改變會催生新的應用程序。還有,這些應用程序的處理方式也會發生改變。
過去,模型基于檢索預先記錄的信息,我們編寫文本、預先記錄然後基于算法來檢索。在未來,某些信息的種子将成爲起點。我們稱之爲 Prompt 提示詞,然後生成其它的内容。未來的計算将高度依賴生成。舉例來說我們現在正在聊天。我告訴給你們的信息很少是檢索所得。大多數是生成的,這就叫做生成式人工智能(AIGC)。未來計算機的運算會高度依賴生成,而非基于檢索。
回到原點,你們創業時得自問哪些行業會因此被颠覆?我們還會對網絡持有同樣的看法嗎?我們還會對存儲持有同樣的看法嗎?我們還會像今天這樣濫用互聯網流量嗎?可能不會。我們此刻在對話,但不是你每問個問題我就上車離開。我們不必像過去那樣濫用信息傳輸。什麽會更多出現?什麽會減少?哪些新的應用程序?等等之類的問題。你可以審視整個行業格局自問:什麽會被颠覆?什麽會改變?會出現哪些新事物?諸如此類。推理過程始于「發生什麽了?什麽是生成式人工智能?」從根本上,到底什麽正在發生?對所有問題都回歸本質。
我還想聊聊組織架構,你之前提問我忘了回答。創建組織的方式得回歸本質,别管其它公司的組織架構。你記住組織是用來做什麽的。過去的架構是上面一個 CEO 下面是輔佐大臣,層層向下,最底層就是普通員工。這樣設計的目的是希望員工獲得的信息越少越好,因爲士兵們的根本任務就是在戰場上賣命。犧牲而不問,原因你們懂的。我隻有 3 萬名員工,我不希望任何人去送死。我希望他們質疑一切,能理解嗎?過去的組織方式與今天的組織方式截然不同。
問題是「NVIDIA 要創造什麽?」組織架構的目标,是讓我們更好地去創造我們要創造的東西。大家創造的東西不同,爲什麽還要用相同的組織架構方式呢?爲什麽采用相同的組織架構、而不考慮你們要創造的是什麽?毫無道理。你造計算機用一種架構去組織。你提供醫療服務還用完全相同的架構去組織。這完全說不通。你得回歸本質自問:需要什麽樣的架構?輸入是什麽?輸出是什麽?這個環境有什麽特性?這種動物必須生活在什麽樣的環境中?它的特性是什麽?大部分情況下是穩定的嗎?是不是每時每刻都努力榨幹最後一滴水?還是時常變化、随時會被攻擊?你得明白,作爲 CEO 你的工作就是架構這個公司。這是我的首要工作——創造條件讓你能做畢生的事業。架構必須正确你必須回歸本質,思考這些問題。
我很幸運,在 29 歲的時候有機會退後一步思考:我如何爲未來構建這家公司,它的樣子會是怎樣?它的操作系統是什麽也就是企業文化?我們鼓勵和推廣哪些行爲、不鼓勵哪些行爲?等等。
主持人:今年我們的主題是重新定義明天,嘉賓的一個問題是,作爲英偉達的聯合創始人和 CEO,如果您能閉上眼、神奇地改變關于明天的一件事,會是什麽?
黃仁勳:我們是不是應該事先想想這個問題?要不然我會給您一個糟糕的答案。
我個人觀點,世上有很多事我們無法控制,你的工作是做出獨特貢獻、有目标的生活,做一些隻有你才能做或會去做的事。做出獨特貢獻,在你離開世界後,大家會覺得因爲有你,世界變得更好了。對我來說我就是這樣過日子的。我會快進到未來再往回看。你的問題其實和我思考問題的視角完全相反,我不從當前位置向前看,我快進到未來,再往回看。因爲這麽做更容易。我會往回看,翻看曆史。我們用這種做法、那種方式解決了某些問題……說得通嗎?
這有點像你們解決問題的方式。你搞清楚最終想要的結果,然後反推實現它的方法。所以我設想 NVIDIA 爲推動計算領域發展做出獨特貢獻,因爲計算是推動整個人類進步的最大動力。這不是自我吹捧,而是因爲這是我們擅長的領域,且難度極高。我們堅信自己能做出絕對獨特的貢獻。到今天,公司已經走過了 31 年,但我們的征途才剛開始。這是極難的目标。當我回首往事時我相信我們會被銘記,成爲一家改變了世界的公司,不是因爲我們到處宣講通過言行改變世界,而是因爲我們堅持做一件難度極高的事,這件事是我們擅長、熱愛而且做了很久。
觀衆:我是 GSP 項目的負責人。我的問題是:您如何看待公司在未來十年的發展?您認爲公司會面臨哪些挑戰?以及您對此的策略是什麽?
黃仁勳:首先,我能說說您提問題時我腦海中的想法嗎?當您說「什麽挑戰」時一大堆挑戰在我腦中閃過,以至于我當時在想選哪個說比較好。呈現在我腦海中的大多數都是技術挑戰,因爲我整個早上都在處理這些問題。但如果您昨天問,我可能想的大多是市場開拓相關的挑戰。有些市場我也非常想開拓。能不能快點行動?但我們無法單槍匹馬實現它。
NVIDIA 是一家技術平台型公司。我們服務于很多公司,希望我們的夢想能通過它們實現。有些事我很想看到比如讓生物學領域達到像 40 年前的芯片設計行業那樣的狀态。當年的計算機輔助設計(EDA)軟件、整個 EDA 産業,成就了我們今天所擁有的一切。我相信明天我們會讓生物領域也實現同樣的突破。
今天,我們有能力将計算機輔助藥物設計與基因、蛋白質、甚至細胞結合。我們非常非常接近能表示和理解細胞的含義,那是大量基因的組合。細胞代表着什麽?如果我們能像理解文字那樣理解細胞,想象一下前景。我迫不及待地期待那一天的到來對此感到很興奮。還有一些我感到興奮、确信馬上要取得突破的領域。比如,以人爲導向的機器人技術非常接近取得突破。理由是,如果你能将語音進行切分成單元并理解那麽,爲什麽不能對動作進行同樣的處理呢?因此,一旦你在某個領域想通了這些計算機科學技術,就會去思考:既然能做這個爲什麽不能做那個?這些讓我很興奮。這個領域的挑戰是令人愉快的挑戰。
當然,還有一些「不太愉快」的挑戰, 比如産業問題、地緣政治問題和社會問題。你們應該都聽說過這些了這些都是真實存在的問題。全球範圍内的社會問題、地緣政治問題。爲什麽我們不能相處好呢?我們爲什麽要在世界上說那些話?爲什麽要說那些話然後在世界上放大它?爲什麽我們必須這麽地批判别人呢?所有這些問題,你們都知道我不需要再重複一遍。
觀衆:我叫 Jose,我是 2023 年 GSB 班的學生。我的問題是:您是否對我們開發 AI 的速度感到任何擔憂?您認爲是否需要任何監管制度?謝謝。
黃仁勳:答案是肯定的也是否定的。現代 AI 最偉大的突破是深度學習,有了長足的進步。但另一個不可思議的突破是人類常有、常使用的一項能力。我們把它應用在語言模型上稱爲基礎、強化學習、人爲反饋。我每天都在提供強化學習與人爲反饋。這就是我的工作。在場的各位家長,你們也一直在提供強化學習與人爲反饋。如今,我們才弄清楚如何将這個系統性地應用在人工智能上。還有很多其它防範手段:例如,微調、基礎。如何生成遵循物理定律的數據?
目前,有些模型生成的物體會在太空中飄、不遵循物理定律。這需要技術來解決。防範需要技術,微調需要技術,使 AI 與人類目标相一緻需要技術,安全也需要技術。
飛機之所以安全,是因爲所有的自動駕駛系統,都由多樣性和冗餘性系統支持, 還有各種各樣新發明的功能安全和主動安全系統。我們需要更快、更快速地發明出所有與之類似的技術。安全和人工智能之間的界限網絡安全和人工智能之間的界限将會變得模糊而緊密交融。在網絡安全領域,我們需要技術非常、非常快速地進步才能保護我們免受人工智能的傷害。
從很多方面來看,我們需要技術更快推進,遠比現在快得多。監管有兩類,有社會監管,我真不知道該如何處理;也有産品和服務監管,這點我非常清楚該怎麽做。FAA 、 FDA 、 NITSA 等等各種聯邦政府機構,它們針對特定用途的産品和服務有各種監管措施。律師行業有職業資格考試、醫生行業也是,如此等等。你們都有資格認證考試。都有需要達到的标準都需持續考取資質認證。會計師行業也是如此等。
不管是産品還是服務都已經有很多、很多的監管制度。請不要再額外增加一套橫跨所有行業的超級監管。監管會計行業的監管者不應該去監管醫生。我喜歡會計師,但如果我需要做心髒搭橋手術,會計師能算賬固然不錯但顯然不能做心髒搭橋。我希望已有産品和服務的監管在人工智能的背景下加強。
我漏掉了很重要的一個方面,那就是 AI 給社會帶來的影響。如何應對呢?我沒有很好的答案,不過已經足夠多的人在讨論了。但重要的是把這一切劃分成很多個子問題。能理解嗎?這樣我們才不會過度聚焦于一個領域,而忘記了大量常規領域還可以做的事。那樣的結果是,人們會死于車禍和飛機事故 —— 毫無道理。我們應該确保在那些領域做到位。
很務實。(你們)能再問一個問題嗎?
主持人:好吧,按照慣例,我們有些快問快答問題。
黃仁勳:好的,我一直努力避免來着。好的,好的,請開始。
主持人:您第一份工作是 Denny’s 餐廳,他們現給您設了專門的卡座。在那裏的工作您最美好的記憶是什麽?
黃仁勳:我第二份工作是 AMD,他們有給我設專門卡座嗎?開玩笑啦。我很喜歡那份工作。真心喜歡那是一家很棒的公司。
主持人:如果全球各地都出現黑色皮夾克短缺,您會穿什麽?
黃仁勳:我儲備了一大堆黑色皮夾克,我是最不需要擔心這個的人。
主持人:您談了很多關于教科書的事。如果您要寫一本,主題會是什麽?
黃仁勳:我不會寫的。您問的是一個假設性、毫無可能性實現的問題。
主持人:這很公平。最後,如果您能分享一條簡短的建議給斯坦福,會是什麽呢?
黃仁勳:擁有一個核心信念。每天都發自内心地檢視目标竭盡全力追求、持之以恒地追求。和您愛的人一起,攜手踏上正途。這就是 NVIDIA 的故事。
主持人:Jensen,和您聊的這一個小時太愉快了。感謝您抽出寶貴時間。
下面是黃仁勳另一場在SIEPR keynote會議上的對話,由訊飛聽見、Kimi智能助手和ChatGPT進行 AI 翻譯,钛媒體編輯進行部分人工整理和修正:
注:主持人爲SIEPR前任董事長、斯坦福大學經濟學名譽教授John Shoven,以下稱他爲"主持人"。
主持人:在我的一生中,我認爲最大的半導體技術發展突破是晶體管。現在這是一個非常基礎的發明,但我應該重新思考技術突破要變成人工智能嗎?
黃仁勳: 首先,晶體管顯然是一個偉大的發明,但最偉大的能力是它使得軟件成爲可能。人類能夠以可重複的計算方式表達我們的想法和算法,這是突破。我們公司在過去31年裏緻力于一種新的計算形式,稱爲加速計算。我們的想法是,通用計算并不适用于每一個工作領域。我們說,爲什麽不發明一種新的計算方式,以便我們能夠解決通用計算不适合解決的問題?我們在特定計算領域有效地做到了這一點。這本質上是算法的可以并行化。我們已經将計算機的計算成本降低到接近零。
當你能夠将某物的邊際成本降低到接近零時,會發生什麽?我們啓用了一種新的軟件開發方式,過去是由人類編寫的。現在我們可以讓計算機來編寫軟件,因爲計算成本接近零。你不妨讓計算機去處理大量的經驗。我們稱之爲數據,數字經驗,人類的數字經驗,讓它去發現關系和模式,從而代表人類知識。這個奇迹發生在大約十五年前。我們看到了這一點,我們讓整個公司都投入到這個領域。結果,在過去的10年裏,我們将深度學習的計算成本降低了100萬倍。
很多人說,Jensen,如果你将計算成本降低了100萬倍,人們就會買得更少。但事實恰恰相反。我們看到,如果我們能夠将計算的邊際成本降低到接近零,我們可能會用它來做一些瘋狂的事情。大型語言模型,從互聯網上提取所有的數字人類知識,将其放入計算機中,讓它找出知識是什麽。這個想法,将整個互聯網的内容刮取出來,放入一台計算機中,讓計算機找出程序是什麽,這是一個瘋狂的概念,但如果沒有将計算的邊際成本降低到零,你永遠不會考慮去做它。
我們取得了這個突破。現在我們啓用了這種新的軟件開發方式。想象一下,對于那些對人工智能還不熟悉的人來說,我們找到了一種方法,讓計算機理解幾乎所有數字知識的含義,而不是模式。你可以數字化任何東西。我們可以理解它的含義。讓我給你舉個例子。基因測序是數字化基因。但現在有了大型語言模型,我們可以去理解基因的含義。通過質譜數字化的氨基酸。
現在我們可以從氨基酸序列中理解,不需要太多工作,我們就可以弄清楚蛋白質的結構。這在計算機的視角下和一張頁面的文字沒有什麽不同。你讓計算機問它,這是什麽意思?總結它說了什麽?這和基因、蛋白質有什麽關系。因爲我們正處于這一切的邊緣。所以我會長篇大論地說,John,你完全正确。人工智能,這是我們稱之爲加速計算的新形式,我們花了三十年時間去做,可能是計算機行業最偉大的發明。
這可能是21世紀最重要的事情。
主持人:我同意這是21世紀的,但也許晶體管是20世紀的趨勢,我們需要讓曆史來決定。那麽,你能展望一下未來嗎?我猜現在支持 AI 的GPU芯片是你們的H100,我知道你們正在推出H200,你們計劃每年升級一次。那麽,你能想象一下5年後的3月20日,你們正在推出H700嗎?它會讓我們做到我們現在做不到的事情嗎?
黃仁勳:我會倒回去,但首先讓我說一下John剛剛描述的芯片。正如我們所說,芯片,你們在座的每個人都可能見過芯片,你可能會想象有一個像這樣的芯片。John剛剛描述的芯片重70磅。它由35,000個部分組成。其中8個部分來自台積電。這個芯片取代了一個數據中心的舊CPU,變成了一台計算機。
這些節省,因爲我們計算得非常快,這個計算機的節省是難以置信的。
然而,它是世界上最昂貴的計算機。我們賣出了世界上第一個價值25萬美元的芯片,但這個系統它所取代的,僅僅是連接所有這些舊計算機的電纜就比芯片貴。這就是我們所做的。我們重新發明了計算,結果,計算的邊際成本降到了零。這就是你剛剛解釋的。我們将整個數據中心壓縮成了這一個芯片。它非常擅長于嘗試這種計算形式,如果沒有變得奇怪的話,我們稱之爲深度學習,它非常擅長于這個叫做人工智能的東西。這個芯片的工作原理,不僅僅是在芯片層面,而是在芯片層面、算法層面和數據中心層面,作爲一個團隊一起工作。所以當你看我們的一台計算機時,它是一件了不起的事情。
隻有計算機工程師會覺得它了不起,但它确實了不起。它很重,有數百英裏的電纜。下一個即将到來的是液冷技術,它在很多方面都很美。它以數據中心的規模進行計算。在未來的10年裏,比如John所說的,我們将深度學習的計算能力再提高100萬倍。當你這樣做時,會發生什麽?今天我們學習,然後我們應用。我們去訓練推理,我們學習,然後我們應用。在未來,我們将有持續學習。我們可以決定是否将那個持續學習的結果部署到世界上的應用中,但計算機将觀察視頻和新文本,并從所有互動中不斷改進自己。
學習過程和訓練過程,訓練過程和推理過程,訓練過程和部署過程、應用過程都将成爲一體。
這就是我們所做的。推理、訓練、應用這套強化學習循環将是持續的,而強化學習将基于實時通過互動以及我們實時創造的合成數據。就像當你學習時,你獲取信息的片段,然後你從第一原理開始,這應該是這樣的。然後我們在我們的大腦中進行模拟,想象狀态,未來狀态在很多方面對我們來說表現爲現實。
未來的人工智能計算機也會這樣做。它會進行合成數據生成,它會進行強化學習,它将繼續以真實世界的經驗爲基礎。它會想象一些事情,它會用真實世界的經驗來測試它。它會以此爲基礎。整個循環就是一個巨大的循環。當你能夠将計算的邊際成本降低到接近零時,就會有很多新的方法去做你願意做的事情。這和我願意去更遠的地方沒有什麽不同,因爲交通的邊際成本已經降到了零。我可以相對便宜地從這裏飛到紐約。如果它需要一個月,我可能永遠不會去。這和我們所做的每件事都是一樣的,我們将計算的邊際成本降低到接近零。
因此,我們會做更多的計算。
主持人: 你可能知道,最近有一些報道說NVIDIA在推理市場上将面臨比訓練市場更多的競争。但你所說的實際上是一個市場。你能評論一下嗎?将會有一個單獨的訓練芯片市場和推理芯片市場嗎?或者聽起來你将會持續訓練并切換到推理?也許在一個芯片内,我不知道,你爲什麽不解釋一下。
黃仁勳: 今天,每當你提示NVIDIA,無論是ChatGPT還是Copilot,或者你現在使用的服務平台,你正在做推理。推理就在其中。
所以,它爲你生成信息。每當你這樣做時,背後的是什麽?100%都是NVIDIA的GPU。所以NVIDIA,你們現在參與的平台,當你在做推理時,我們是世界上100%的推理。現在推理難還是容易?很多人,當他們看到訓練時,他們會說,這看起來太難了。我不會去做那個。我是一個芯片公司,這看起來不像一個芯片。你必須爲了證明某事是否有效而投入20億美元。你投入了20億美元,兩年時間,然後你打開它,發現它并不是很有效。你投入了20億美元和兩年時間,探索新事物的風險對客戶來說太高了。
所以很多競争對手傾向于說我們不做訓練,我們做推理。推理非常困難。讓我們想一想。推理的響應時間必須非常快,但這是容易的部分。這是計算機科學部分。推理的難點在于,做推理的人的目标是吸引更多的用戶,并将其軟件應用于龐大的安裝基礎。推理是一個安裝基礎問題。這和在iPhone上編寫應用程序的人沒有區别。他們這樣做的原因是因爲iPhone有一個如此龐大的安裝基礎。幾乎每個人都有一部。如果你爲那部手機編寫一個應用程序,它将受益于能夠觸及每個人。在NVIDIA的情況下,我們的加速計算平台是唯一真正無處不在的加速計算平台。因爲我們已經在這方面工作了很長時間,如果你爲推理編寫了一個應用程序,并在視頻架構上部署了那個模型,它實際上可以在任何地方運行。
所以你可以觸及每個人。你可以産生更大的影響。推理的問題實際上是安裝基礎。這需要巨大的耐心和多年的成功和奉獻,以及對架構、兼容性等方面的投入。
主持人: 你制造了完全先進的芯片。但是,是否有可能你會面臨激烈的競争,雖然他們不如NVIDIA,但足夠好且便宜得多。A(AMD)是一個威脅嗎?
黃仁勳: 首先,我們比地球上任何人都有更多的競争對手。我們不僅有來自競争對手的競争,我們還有來自客戶的競争。是的。我是他們即将設計一個芯片來取代我們的競争對手,我完全知道這一點。我不僅向他們展示我當前的芯片。我還向他們展示我的下一個芯片,我還會展示我的芯片适配器。原因是,你看,如果你不嘗試解釋你爲什麽擅長某件事,他們永遠不會有機會購買你的産品。
所以我們在與行業裏的幾乎每個人合作時都是完全開放的。我們的優勢在于幾件事情,我們的優勢在于,你可以爲一個特定的算法構建一個芯片。記住,計算不僅僅是Transformers。有一個叫做Transformers的概念。有各種各樣的Transformers物種,而且我們正在發明新的Transformers。軟件的類型非常豐富。軟件工程師喜歡創造新事物,創新。我們希望NVIDIA擅長的是加速計算的廣泛領域。其中之一是數據中心的生成性AI,它希望擁有大量客戶,其中一些在金融服務領域,一些在制造業等等。在計算世界中,我們是一個偉大的标準。我們在每一個雲中,我們在每一個計算機公司中。我們公司的架構在大約30年後成爲了一種标準。所以這真的是我們的優勢。如果客戶可以做一些特定的事情,那更具有成本效益。坦白說,我甚至對這一點感到驚訝。
原因是這樣的。記住,我們的芯片隻是一部分。當你看到現在的計算機時,它不像筆記本電腦。它是一個數據中心,你需要運營它。所以購買和銷售芯片的人考慮的是芯片的價格。運營數據中心的人考慮的是運營成本,我們的總擁有成本(TCO)非常好。即使競争對手的芯片是免費的,它也不夠便宜。我們的目标是增加如此多的價值,以至于替代品不僅僅是關于成本。這需要很多努力,我們必須不斷創新。我們不能把任何事情視爲理所當然。但我們有很多競争對手。
主持人: 但也許不是每個人都知道,有一個術語叫做AGI。
黃仁勳: 我爲那次回答道歉。我本可以更巧妙地處理。我會在下次做得更好,但他用一個競争對手讓我措手不及。我以爲我在一個經濟論壇上。
主持人: 我隻是走進來。我向他的團隊提出了一些問題。我說,你看過這些問題嗎?他說,沒有,我沒有看。我想保持自發性。此外,我可能會開始考慮它,那會很糟糕。所以我們就這樣即興發揮。我們兩個都是。所以我問,你認爲我們什麽時候會實現人類水平的通用人工智能?是50年後嗎?還是5年後?你怎麽看?
黃仁勳: 我會給出一個非常具體的答案。但首先,讓我告訴你一些正在發生的非常令人興奮的事情。
首先,我們正在訓練這些模型,使它們具有多模态性,這意味着我們将從聲音中學習,從文字中學習,從視覺中學習。我們隻是看電視并從中學習,等等。這之所以如此重要,是因爲人工智能需要有根基,不僅僅是人類價值觀。這是Chat GPT真正創新的地方。我記得我們之前有大型語言模型,但直到強化學習,人類反饋,人類反饋,将人工智能紮根于我們感覺良好的人類價值觀。
現在,你能想象,現在你必須生成圖像和視頻之類的東西嗎?人工智能如何知道手不會穿透講台,腳站在地面上,當你踩在水上時,你會掉進去。你必須在物理上紮根。
目前,人工智能必須通過觀察大量不同的例子,理想情況下主要是視頻,來學習世界中的某些屬性。它必須創建一個所謂的世界模型。首先,我們必須理解多模态。還有許多其他模态,如我之前提到的基因和氨基酸、蛋白質和細胞,這導緻了器官等等。所以我們希望多模态。第二是越來越強的推理能力。我們已經做了很多推理技能。常識是我們所有人都默認的推理。我們的許多知識,互聯網上已經編碼了推理,模型可以學習那個。但還有更高層次的推理能力。例如,有些問題你問我。
現在,當我們談話時,我主要是在做生成性AI,我沒有花太多時間推理問題。然而,有一些問題,比如規劃問題,這很有趣。讓我想想。我在腦海中循環,我提出了多個計劃。我穿過樹,我遍曆我的圖,我修剪我的樹,說這沒有意義,但我會玩,我會在腦海中模拟它,也許我會做一些計算等等。那種長思考,那種長思考AI今天不擅長。你提示ChatGPT的一切都是即時回應,我們希望提示ChatGPT給它一個使命聲明,給它一個問題,讓它思考一會兒。不是嗎?
那種系統,計算機科學稱之爲系統思考或長思考或規劃那些事情,推理和規劃那些問題。我認爲我們正在研究這些事情。我認爲你可以看到一些突破。所以在未來,你與AI的互動方式将會非常不同。有些隻是給我一個問題,回答。有些是說,這裏有一個問題。去工作一會兒。明天告訴我,它會做盡可能多的計算。你也可以說,我要給你這個問題,花1000美元,但不要花超過那個。它會回來給出最好的答案,等等。
所以那個就是AGI的問題,AGI的定義是什麽?事實上,這是最高的問題。現在,如果你問我,AGI是通過一系列非法測試,記住,工程師隻能知道,工程師知道,我們在這個享有盛譽的組織中,沒有人确切知道工程師需要有一個規範,你需要知道成功的标準是什麽。你需要有一個測試。
現在,如果我給AI很多數學測試、推理測試、曆史測試、生物學測試、醫學考試和律師考試,以及你能想象到的每一個測試,你把這個測試列表放在計算機科學行業面前。我猜在5年的時間裏,我們會在每一個測試中都做得很好。如果你對AGI的定義是它通過人類的測試,那麽我會告訴你5年。如果你以稍微不同的方式問我,AGI将擁有人類智能。
但我不确定如何具體怎樣定義你所定義的 AGI 。沒有人真正知道,因此,作爲一個工程師,很難實現。這有意義嗎?所以答案是我們不确定,我們都在努力讓它變得更好。
主持人:我要再問兩個問題,然後我會把它交給在座的觀衆。第一個問題是,你能深入一點,談談你如何看待AI在藥物發現中的作用?
黃仁勳: 我們理解擁有數字信息的含義。現在,我們有很多氨基酸,因爲AlphaFold我們可以了解許多蛋白質的結構。
但問題是,這個蛋白質的含義是什麽?這個蛋白質的功能是什麽?如果我們能像和ChatGPT聊天一樣,和PDF文件聊天,你把PDF文件,不管是什麽,加載到Chat中,然後就像和研究人員聊天一樣。你隻是問,是什麽激發了這項研究?它解決了什麽問題?突破是什麽?當時的藝術狀态是什麽?有什麽新穎的想法?就像和人類一樣聊天。在未來,當我們拿到一個蛋白質,把它放入Chat GPT,就像PDF一樣,你是什麽?什麽酶激活你?什麽讓你開心?
例如,将會有一長串基因,你将代表一個細胞。你要把那個細胞放進去。你是什麽?你有什麽用?你擅長什麽?你有什麽希望和夢想?所以,這是我們可以做的最深刻的事情之一。如果我們能理解生物學的含義?你們知道,一旦我們理解了世界上幾乎任何信息的含義,在計算機科學的世界裏,在計算的世界裏,傑出的工程師和傑出的科學家就知道該做什麽。但這是一個突破,對生物學的多模态理解。
這是我對你的問題的深入和淺出的回答,我認爲這可能是我們可以做的最深刻的事情。
主持人:俄勒岡州立大學和斯坦福大學真的很爲你感到驕傲。如果我能稍微轉換一下話題,斯坦福有很多有抱負的企業家、學生,他們可能是計算機科學專業的,或者是某種工程學專業。你會給他們什麽建議,來提高成功的機會?
黃仁勳: 我認爲我的一大優勢是,我期望值很低。我認爲大多數斯坦福畢業生期望值很高。你們應該有這樣的期望,因爲你們來自一所偉大的學校。你們非常成功,你們是你們班級的頂尖學生。顯然,你們能夠支付學費,然後你們畢業于這個星球上最好的機構之一。你們周圍都是其他令人難以置信的孩子。你們天生就有很高的期望。期望值很高的人通常韌性很低。不幸的是,韌性在成功中很重要。我不知道如何教你們,除了我希望痛苦發生在你們身上。我很幸運,我成長的環境中,我的父母爲我們提供了成功的條件,但同時,也有足夠的挫折和痛苦的機會。
直到今天,我在我們公司裏用"痛苦和折磨"這個詞,非常高興。
原因是,你想要訓練,你想要塑造你公司的性格。你想要他們表現出偉大,偉大不是智力。偉大來自于性格,性格是由受過痛苦的聰明人形成的。
所以,如果我能爲你們所有人許願,我不知道怎麽做。
主持人: 我将再問你一個問題。你看起來非常積極和充滿活力。但是,你如何保持你的員工積極和充滿活力,當他們可能比他們預期的要富有?
黃仁勳: 我被55個人——我的管理團隊包圍。所以我被直接報告的高管有55個人。我爲他們中的任何一個都不寫評價。我給他們不斷的反饋,他們也爲我提供同樣的反饋。我給他們的報酬是Excel的右下角。我隻需拖動它。實際上,我們的許多高管薪水完全相同。我知道這很奇怪。它有效,我不和他們中的任何一個進行一對一的會談。除非他們需要我,否則我會爲他們放下一切。我從不和他們單獨開會。他們永遠不會聽到我隻對他們說的話。我絕不會把任何信息告訴他們,而不告訴公司的其他人。
所以,我們公司的設計是爲了敏捷,爲了讓信息盡可能快地流動,讓人們能夠通過他們能做什麽而被賦予權力,而不是通過他們知道什麽。
我得到了,答案是我的行爲。
在其中,我如何慶祝成功?我如何慶祝失敗?我如何談論成功?我如何談論挫折?我每天都在尋找機會,每天都在灌輸公司的文化。什麽是重要的?什麽是不重要的?什麽是好的?你如何将自己與好比較?你如何看待好?你如何看待旅程?你如何看待結果?所有這些都是我整天在做的事情。
主持人: 下面讓我們開放一些問題,先從董事會成員Winston開始。
提問者: 我有兩個問題。一、你的皮夾克的故事是什麽?第二個是,根據你的預測和計算,未來5到10年,爲了支持人工智能的發展,需要多少額外的半導體制造能力?
黃仁勳: 我感謝這兩個問題。第一個問題,這是我妻子給我買的,這就是我穿的。因爲我不做任何購物。一旦她找到不會讓我癢的東西,因爲她知道我從17歲起就認識我,她認爲一切都會讓我癢。
我說我不喜歡某樣東西的方式是它讓我癢。所以一旦她找到不會讓我癢的東西,如果我看我的衣櫃,整個衣櫃都是襯衫,因爲她不想再爲我購物。所以這就是她給我買的,這就是我穿的。如果我不滿意,我可以自己去購物。否則我可以穿它。對我來說足夠好了。
第二個問題,關于預測,實際上,我非常不擅長預測,但我非常擅長基于第一原則的推理。所以讓我先爲你推理。我不知道需要多少晶圓廠,但我知道一件事。我們現在做計算的方式。信息是由某人編寫的,由某人創建的。基本上是預先錄制的所有文字,所有視頻,所有聲音。我們所做的一切都是基于檢索的。這有意義嗎?就像我說的,每次你觸摸手機,記住,有人寫了那個并存儲在某個地方。所有模态都是預先錄制的。在未來,因爲我們将擁有一個理解當前情況的AI,因爲它可以接入世界上所有最新的新聞等等,這被稱爲基于檢索的。
好的?它理解你的上下文,意味着它理解你問的是什麽。當你和我談論經濟時,我們可能意味着非常不同的事情。基于那個,它可以爲你生成完全正确的信息。所以在未來,它已經理解了上下文。而且大部分計算将是生成性的。今天,100%的内容都是預先錄制的。如果在未來,100%的内容将是生成性的。問題是,這将如何改變計算的形狀,而不會讓你感到困擾?這就是我推理的方式。
我們需要多少網絡?我們需要多少内存?答案是,我們需要更多的晶圓廠。但請記住,我們也在極大地提高算法和處理的效率。并不是說計算的效率就是今天的樣子。與此同時,需求正在上升。這必須相互抵消。然後還有技術擴散等等。這隻是時間問題,但這并不改變這樣一個事實,那就是有一天,世界上所有的計算機都将100%地改變。
每一個數據中心,價值數萬億美元的基礎設施,将完全改變。然後還會有新的基礎設施建立在那個基礎上。
提問者: 感謝你今天的到來。所以最近你說,你鼓勵學生不要學習編程。如果是這樣,那可能意味着一兩件事。你認爲從公司成立和創業的角度來看,世界會變得像是由更多的公司組成,還是會變成隻有幾個大玩家的整合?
黃仁勳: 首先,我說得太差了,你重複得也太差了。我并沒有說,如果你喜歡編程,那就去編程。如果你想要的是煎蛋,那就去做煎蛋。我不會編程,編程是一個推理過程。這是好事。它能确保你的工作嗎?一點也不。世界上的程序員數量肯定會繼續很重要。NVIDIA需要程序員。然而,在未來,你與計算機的互動方式不會是C++,至少對我們中的一些人來說不是。這是真的,但對你來說,爲什麽用Python編程這麽奇怪?在未來,你會告訴計算機你想要什麽。計算機會說,嗨,我想讓你提出一個建造計劃,包括所有供應商和建造材料,基于我們爲你提供的預測。然後根據這個區域所需的所有必要組件提出建造計劃。
好的?然後如果你不喜歡那個,你可以寫一個Python程序,我可以修改那個建造計劃。所以記住,我第一次和計算機交談時,我隻是用英語說話。
第二次,如果你不喜歡,你可以用Python程序來修改建造計劃。所以記住,我剛才說的第一點,我隻是想用英語和計算機交流。所以英語,順便說一下,是人類未來最好的編程語言。你如何與計算機交流?你如何提示它?這被稱爲提示工程。你如何與人交流?你如何與計算機交流?你如何讓計算機做你想要的事情?你如何微調給計算機的指令?這就是提示工程的藝術。例如,大多數人對此感到驚訝,但這對我來說并不奇怪,但這是令人驚訝的。例如,你讓我生成一張圖片,一隻小狗在夏威夷的沖浪闆上,在日落時,然後它生成了一個,你說更可愛,讓它更可愛。它回來了,更可愛,你又說沒有比這更可愛的了。它回來了。爲什麽軟件會這樣做?有一個結構性的原因。但例如,你需要知道計算機在未來有這樣的能力。如果你不喜歡第一次的答案,你可以微調它,讓它在你可以的上下文中給出更好的結果。
甚至有一天,你可以讓它完全編寫程序來生成那個結果。所以我要說的是,編程已經發生了變化,可能變得不那麽有價值了。
另一方面,讓我告訴你,因爲人工智能,我們縮小了人類的技術差距。今天,大約有1000萬人因爲知道如何編程而有工作,這讓其他80億人落後。未來不是這樣。我們都可以編程計算機。這有意義嗎?你隻需要看看YouTube,看看所有使用提示工程的人,所有的孩子,他們正在用它做出驚人的事情。他們不知道如何編程。他們隻是和Chat GPT交談,他們知道如果我告訴它做這個,它就會做那個。所以這和未來與人交流沒有什麽不同。這是計算機科學行業對世界的偉大貢獻。我們縮小了技術差距。
提問者:非常感謝。我隻是想知道,你考慮過地緣政治風險嗎?你認爲它會對你的行業産生什麽影響?
黃仁勳: 地緣政治風險?我們幾乎是地緣政治風險的典型例子。原因是我們制造了一種非常重要的人工智能工具,正如John和我早些時候讨論的,人工智能是這個時代的界定技術。
所以美國完全有權決定這種工具應該限制在它認爲應該限制的國家。美國有這個權利,他們行使了這個權利。
那麽,這與我們有什麽影響?首先,我們必須理解這些政策,我們必須保持敏捷,以便我們能夠遵守這些政策。一方面,它限制了我們在某些地方的機會,另一方面,它在其他地方打開了機會。
在過去的6到9個月裏發生的一件事是,每個國家、每個社會的覺醒,他們必須控制自己的數字智能,印度不能外包它的數據,讓某個國家将其轉化爲印度智能,然後将這種智能進口回印度,這種覺醒,即主權AI,你必須緻力于控制你的主權AI,保護你的語言,保護你的文化,爲你自己的行業。這種覺醒是我發生在過去的6到9個月裏。
提問者: 我記得你提到過,你願意爲一定規模的客戶定制解決方案,而不是像現在這樣更通用的解決方案。你看到自己未來會這樣做嗎?
黃仁勳: 我們願意定制嗎?爲什麽現在的門檻相對較高?原因是,我們每一代平台,首先是GPU,還有CPU,還有網絡處理器。有兩種交換機。我爲一代産品制造了五個芯片。人們認爲這是一個芯片,但實際上是五個不同的芯片。每一個芯片的研發成本都是數億美元。僅僅爲了我們所說的發射,即我們的芯片設計完成,就需要數億美元。
我每一代有五個這樣的産品。然後你還得把它們放進一個系統中,然後你還得有網絡設備,你還得有光通信設備,你還得有大量的軟件。運行像這個房間這麽大的計算機需要大量的軟件。
所有這些都是複雜的。如果定制要求非常不同,那麽你必須重複整個研發過程。然而,如果定制利用了我們現有的一切,并在此基礎上增加了一些東西,那麽這是非常有意義的。也許是一個專有的安全系統。也許是一個機密計算系統。也許是一種新的數值處理方式。這可能是可以擴展的。我們非常開放。
我們的客戶知道,我願意這樣做,并認識到,如果你改變得太遠,你就基本上浪費了我們走到現在所花費的近100億美元,從頭開始。所以他們希望盡可能地利用我們的生态系統。我很願意這樣做,他們知道這一點。
主持人: 那麽,我認爲我們需要結束了。非常感謝John和Jensen。