【新智元導讀】今年的諾獎将物理和化學兩個領域的獎項都頒給了 AI 成果，這究竟代表着怎樣的含義，又會産生怎樣的影響？Demis Hassabis 在本次專訪中提出了自己的見解。
10 月，DeepMind 聯合創始人兼 CEO Demis Hassabis 憑借 AlphaFold 成爲了諾貝爾化學獎的三位共同獲獎者之一。
作爲一種人工智能軟件，AlphaFold 解決了一個生物學界 50 年前提出的問題：預測每種已知蛋白質的結構。
事實上，AlphaFold 這個極具開創性的模型，也僅僅是 DeepMind 成果的一部分。成立 15 年來，DeepMind 已經跻身爲全球最重要的 AI 實驗室之一。
盡管被谷歌收購、與 Google Brain 合并後加入了一些商業考量，但他們目前仍然專注于科學和工程中最複雜和基本的問題，最終設計出能夠模仿，甚至取代人類認知能力的強大 AI。
獲得諾獎後不到 24 小時，Demis Hassabis 就接受了《金融時報》記者 Madhumita Murgia 的采訪，讨論了 DeepMind 下一步将要解決的重大難題、AI 對科學進步的作用，以及他本人對 AGI 之路的前景預測。
Demis Hassabis 在谷歌 DeepMind 倫敦總部
AI4Science 的下一個挑戰
AlphaFold 3 的相關進展，就一定程度上彰顯了 DeepMind 在生物學領域下一步的前進方向——理解生物體内的相互作用，最終對整個通路進行建模，甚至可以構建出一個虛拟細胞。
此外，通過 DeepMind 子公司 Isomorphic 的努力，他們也在進軍藥物發現領域——設計全新的化合物、找到結合位置，并預測出這些物質的特性、吸收性、毒性等等。
目前，Isomorphic 還與禮來、諾華等公司合作開展了 6 個藥物研發計劃，有望未來幾年内在臨床上有所進展，希望能大幅縮減藥物發現所需時間，從而幫助治愈一些疾病。
除了生物學領域，Hassabis 也表示對材料設計領域的工作感到十分興奮。
去年，他們在 Nature 上發表的一篇論文提出了名爲 GNoME 的 AI 工具，實現了 AlphaFold 1 級别的材料設計，共發現了 220 萬個新晶體；下一步，就需要努力達到 AlphaFold 2 級别。
論文地址： https://www.nature.com/articles/s41586-023-06735-9
數學方面，AlphaProof 和 AlphaGeometry 已經在今年達到了 IMO 銀牌的水準，接下來的幾年，DeepMind 将嘗試借助 AI 的力量真正解決一個重要的數學猜想。
對于能源和氣候領域，去年在 Science 上發表的 Graphcast 模型能在 1 分鍾内以前所未有的精度預測未來 10 天的天氣。
論文地址：https://www.science.org/stoken/author-tokens/ST-1550/full
這其中的技術，或許可以幫助進行氣候建模，這對于應對氣候變化、優化電網等領域都非常重要。
可以看出，DeepMind 的未來藍圖中，重點更多地放在應用和工程實踐層面，旨在将技術進一步轉化爲能夠影響現實世界的工作，而非純粹的基礎研究。
對此，Hassabis 表示，「蛋白質折疊」是一個「可遇不可求」的「挑戰」，不能要求每個問題都有如此含金量。
「蛋白質折疊」這個問題如此核心且重要，相當于生物學領域的費馬大定理，但可惜的是，沒有多少問題足夠重要、探索時間足夠長，能夠被稱之爲「挑戰」。
諾獎将成爲 AI 的分水嶺
今年的諾貝爾物理和化學獎項接連頒給 AI 學者，這很有趣，但誰也說不清評獎委員會爲什麽會做出這樣的決定。
對此，Hassabis 如何理解？
他表示，這很像是委員會特意發表的一種「聲明」，也将成爲 AI 的分水嶺時刻，标志着它的技術成熟度得到了足夠的認可，能夠協助科學發現。
AlphaFold 就是最好的例子，而 Hinton 和 Hopfield 的獎項則是針對更基礎、更底層的算法工作。
Hassabis 表示，希望 10 年後回顧當下時，AlphaFold 将預示着所有這些不同領域的科學發現的新黃金時代。
這也帶來了一個有趣的問題：有了 AlphaFold 這樣的工具，科學家們不再需要花費過多的時間和精力來進行預測，這是否意味着我們應當去開拓新的領域？甚至改變學習科學概念的方式？
需要注意的是，AI 系統是一類獨特的新工具，它們具有一些内在的功能，因而不适用于傳統意義上對工具的分類。
雖然 AlphaFold 等工具目前隻能做到預測，但從某種意義上說，預測也是「理解」的一部分。如果你能預測，那就可以帶來理解。
甚至，如果預測的輸出足夠重要，比如蛋白質的結構，那麽它本身就是有價值的。
從更宏大的視角來看，科學中包含了很多層次的「抽象」。
比如，整個化學領域就是建立在物理學的基礎上。你不需要理解量子力學等全部的物理原理，也可以談論原子化合物，在化學自身的抽象層去理解它。
對生物學領域而言，我們可以研究生命，但仍然不知道生命是如何進化或出現的，甚至無法正确定義「生命」這個概念。
類似的，人工智能也像一個抽象層，構建程序和網絡的人們在一定的物理層面上理解這一點，但随後産生的預測結果就像一種突然湧現的屬性，我們可以在科學的層面上自行分析這些預測。
AGI 迫近，理解很重要
無論是自然科學，還是人工智能系統，「理解」都很重要。
人工智能是一門工程學科，這意味着你必須先建造出一個系統，之後才能研究、理解這個對象；而自然科學中的現象不需要制造，是天然存在的。
雖然 AI 系統是工程化的人造物，但這并不意味着比自然現象更容易研究，甚至可以預期到的是，它會像生物神經網絡一樣難以理解、分拆和解構。
現在這種情況正在發生，但我們已經取得了一些進展，比如有一個專門的領域叫做「機械解釋」（mechanistic interpretation），就是使用神經科學的觀念和工具來分析 AI 系統這個「虛拟大腦 」。
對于 AI 的可解釋性，Hassabis 非常樂觀，認爲未來幾年就會在理解 AI 系統這方面取得很大進展。
當然，AI 也可以學着解釋自己。想象一下将 AlphaFold 與語言能力系統結合起來，它就可以一邊預測，一邊解釋自己在做什麽。
目前，很多領先的實驗室正在縮小他們的探索範圍，專注于對 Transformers 進行擴展。不可否認，這是一個很好的方向，也将成爲最終 AGI 系統的關鍵組成部分，但 DeepMind 會繼續堅持探索和創新研究。
事實上，對于發明下一代 Transformer 而言，DeepMind 擁有迄今爲止最廣泛、最深入的研究平台，這是他們科學遺産的一部分。
這些探索都是必要的，一部分原因是爲了看看我們能走多遠，這樣就知道需要探索什麽。
探索新想法，以及将令人興奮的想法發揮到極緻，這兩條路都很重要。如果你不了解當前想法的絕對局限，也不會知道需要哪些突破。
LLM 的長上下文窗口就是一個很好的例子。谷歌 Gemini 1.5 Pro 做出的 2M token 上下文就是一個很酷的創新，目前沒有其他人能夠複制。
谷歌 DeepMind 倫敦辦公室
理解 AI，才會有安全的 AGI
Hassabis 和很多科技領袖都曾預測，實現 AGI 還需要 5～20 年的時間。
如果要用科學方法實現這一目标，就意味着更多的時間、精力和思考，集中在 AI 的理解和分析工具、基準測試和評估上，需要目前投入的 10 倍。
這些投入不僅來自科技公司，還應包括 AI 安全機構，也來自學術界和民間社會。我們需要了解 AI 系統正在做什麽、它們的局限性，以及如何控制和保護這些系統。
「理解」是科學方法的重要組成部分，卻是純工程中所缺少的。工程隻是旁觀——這個方法有效嗎？如果不起作用就再試一次，充滿了試驗和誤差。
科學則是在一切發生之前就能理解的東西。理想情況下，這種理解意味着更少的錯誤。這對于 AI 和 AGI 來說很重要，因爲在運用一項如此強大的技術時，你希望盡可能少地犯錯誤。
也許幾年後，當我們接近 AGI 時，就會出現一個社會問題——我們希望這些系統具有什麽價值？我們要爲它們設定什麽樣的目标？
這與技術問題不同。技術層面關注的是如何讓系統走上正軌，朝着設定的目标前進，但并不能幫助我們決定目标應該是什麽。
爲了安全的 AGI 系統，技術問題和社會問題，這兩件事都需要正确，但 Hassabis 認爲，後者可能更難實現。
目标和價值觀等一系列問題，會更多地涉及 UN 和地緣政治，甚至社會科學和哲學，需要與政府、學術界和民間社會各階層進行廣泛的讨論。
即使 AGI 還需要 10 年才能實現，我們解決這些問題的時間也并不是很多，因此這方面的讨論應該從現在開始，讓各種來源、各種觀點的聲音呈現在桌面上。
