盧保獎是 AI 發展的里程碑時刻！DeepMind 聯創 Hassabis 獲獎後最新專訪

今年的諾獎將物理和化學兩個領域的獎項都頒給了 AI 成果，這究竟代表著怎樣的含義，又會產生怎樣的影響？Demis Hassabis 在本次專訪中提出了自己的見解。

10 月，DeepMind 聯合創始人兼 CEO Demis Hassabis 憑藉 AlphaFold 成為了盧保化學獎的三位共同獲獎者之一。

作為一種人工智能軟件，AlphaFold 解決了一個生物學界 50 年前提出的問題：預測每種已知蛋白質的結構。

事實上，AlphaFold 這個極具開創性的模型，也僅僅是 DeepMind 成果的一部分。成立 15 年來，DeepMind 已經躋身為全球最重要的 AI 實驗室之一。

儘管被Google收購、與 Google Brain 合併後加入了一些商業考量，但他們目前仍然專注於科學和工程中最複雜和基本的問題，最終設計出能夠模仿，甚至取代人類認知能力的強大 AI。

獲得諾獎後不到 24 小時，Demis Hassabis 就接受了《金融時報》記者 Madhumita Murgia 的採訪，討論了 DeepMind 下一步將要解決的重大難題、AI 對科學進步的作用，以及他本人對 AGI 之路的前景預測。

Demis Hassabis 在Google DeepMind 倫敦總部

AI 4 Science 的下一個挑戰

AlphaFold 3 的相關進展，就一定程度上彰顯了 DeepMind 在生物學領域下一步的前進方向 —— 理解生物體內的相互作用，最終對整個通路進行建模，甚至可以構建出一個虛擬細胞。

此外，通過 DeepMind 子公司 Isomorphic 的努力，他們也在進軍藥物發現領域 —— 設計全新的化合物、找到結合位置，並預測出這些物質的特性、吸收性、毒性等等。

目前，Isomorphic 還與禮來、諾華等公司合作開展了 6 個藥物研發計劃，有望未來幾年內在臨床上有所進展，希望能大幅縮減藥物發現所需時間，從而幫助治癒一些疾病。

除了生物學領域，Hassabis 也表示對材料設計領域的工作感到十分興奮。

去年，他們在 Nature 上發表的一篇論文提出了名為 GNoME 的 AI 工具，實現了 AlphaFold 1 級別的材料設計，共發現了 220 萬個新晶體；下一步，就需要努力達到 AlphaFold 2 級別。

論文地址：https://www.nature.com/articles/s41586-023-06735-9

數學方面，AlphaProof 和 AlphaGeometry 已經在今年達到了 IMO 銀牌的水準，接下來的幾年，DeepMind 將嘗試借助 AI 的力量真正解決一個重要的數學猜想。

對於能源和氣候領域，去年在 Science 上發表的 Graphcast 模型能在 1 分鐘內以前所未有的精度預測未來 10 天的天氣。

論文地址：https://www.science.org/stoken/author-tokens/ST-1550/full

這其中的技術，或許可以幫助進行氣候建模，這對於應對氣候變化、優化電網等領域都非常重要。

可以看出，DeepMind 的未來藍圖中，重點更多地放在應用和工程實踐層面，旨在將技術進一步轉化為能夠影響現實世界的工作，而非純粹的基礎研究。

對此，Hassabis 表示，「蛋白質摺疊」是一個「可遇不可求」的「挑戰」，不能要求每個問題都有如此重要性。

「蛋白質摺疊」這個問題如此核心且重要，相當於生物學領域的費馬大定理，但可惜的是，沒有多少問題足夠重要、探索時間足夠長，能夠被稱之為「挑戰」。

諾獎將成為 AI 的分水嶺

今年的盧保物理和化學獎項接連頒給 AI 學者，這很有趣，但誰也說不清評獎委員會為什麼會做出這樣的決定。

對此，Hassabis 如何理解？

他表示，這很像是委員會特意發表的一種「聲明」，也將成為 AI 的分水嶺時刻，標誌著它的技術成熟度得到了足夠的認可，能夠協助科學發現。

AlphaFold 就是最好的例子，而 Hinton 和 Hopfield 的獎項則是針對更基礎、更底層的算法工作。

Hassabis 表示，希望 10 年後回顧當下時，AlphaFold 將預示著所有這些不同領域的科學發現的新黃金時代。

這也帶來了一個有趣的問題：有了 AlphaFold 這樣的工具，科學家們不再需要花費過多的時間和精力來進行預測，這是否意味著我們應當去開拓新的領域？甚至改變學習科學概念的方式？

需要注意的是，AI 系統是一類獨特的新工具，它們具有一些內在的功能，因而不適用於傳統意義上對工具的分類。

雖然 AlphaFold 等工具目前只能做到預測，但從某種意義上說，預測也是「理解」的一部分。如果你能預測，那就可以帶來理解。

甚至，如果預測的輸出足夠重要，比如蛋白質的結構，那麼它本身就是有價值的。

從更宏大的視角來看，科學中包含了很多層次的「抽像」。

比如，整個化學領域就是建立在物理學的基礎上。你不需要理解量子力學等全部的物理原理，也可以談論原子化合物，在化學自身的抽像層去理解它。

對生物學領域而言，我們可以研究生命，但仍然不知道生命是如何進化或出現的，甚至無法正確定義「生命」這個概念。

類似的，人工智能也像一個抽像層，構建程序和網絡的人們在一定的物理層面上理解這一點，但隨後產生的預測結果就像一種突然湧現的屬性，我們可以在科學的層面上自行分析這些預測。

AGI 迫近，理解很重要

無論是自然科學，還是人工智能系統，「理解」都很重要。

人工智能是一門工程學科，這意味著你必須先建造出一個系統，之後才能研究、理解這個對象；而自然科學中的現象不需要製造，是天然存在的。

雖然 AI 系統是工程化的人造物，但這並不意味著比自然現象更容易研究，甚至可以預期到的是，它會像生物神經網絡一樣難以理解、分拆和解構。

現在這種情況正在發生，但我們已經取得了一些進展，比如有一個專門的領域叫作「機械解釋」（mechanistic interpretation），就是使用神經科學的觀念和工具來分析 AI 系統這個「虛擬大腦 」。

對於 AI 的可解釋性，Hassabis 非常樂觀，認為未來幾年就會在理解 AI 系統這方面取得很大進展。

當然，AI 也可以學著解釋自己。想像一下將 AlphaFold 與語言能力系統結合起來，它就可以一邊預測，一邊解釋自己在做什麼。

目前，很多領先的實驗室正在縮小他們的探索範圍，專注於對 Transformers 進行擴展。不可否認，這是一個很好的方向，也將成為最終 AGI 系統的關鍵組成部分，但 DeepMind 會繼續堅持探索和創新研究。

事實上，對於發明下一代 Transformer 而言，DeepMind 擁有迄今為止最廣泛、最深入的研究平台，這是他們科學遺產的一部分。

這些探索都是必要的，一部分原因是為了看看我們能走多遠，這樣就知道需要探索什麼。

探索新想法，以及將令人興奮的想法發揮到極致，這兩條路都很重要。如果你不瞭解當前想法的絕對局限，也不會知道需要哪些突破。

LLM 的長上下文窗口就是一個很好的例子。Google Gemini 1.5 Pro 做出的 2M token 上下文就是一個很酷的創新，目前沒有其他人能夠複製。

理解 AI，才會有安全的 AGI

Hassabis 和很多科技領袖都曾預測，實現 AGI 還需要 5～20 年的時間。

如果要用科學方法實現這一目標，就意味著更多的時間、精力和思考，集中在 AI 的理解和分析工具、基準測試和評估上，需要目前投入的 10 倍。

這些投入不僅來自科技公司，還應包括 AI 安全機構，也來自學術界和民間社會。我們需要瞭解 AI 系統正在做什麼、它們的局限性，以及如何控制和保護這些系統。

「理解」是科學方法的重要組成部分，卻是純工程中所缺少的。工程只是旁觀 —— 這個方法有效嗎？如果不起作用就再試一次，充滿了試驗和誤差。

科學則是在一切發生之前就能理解的東西。理想情況下，這種理解意味著更少的錯誤。這對於 AI 和 AGI 來說很重要，因為在運用一項如此強大的技術時，你希望儘可能少地犯錯誤。

也許幾年後，當我們接近 AGI 時，就會出現一個社會問題 —— 我們希望這些系統具有什麼價值？我們要為它們設定什麼樣的目標？

這與技術問題不同。技術層面關注的是如何讓系統走上正軌，朝著設定的目標前進，但並不能幫助我們決定目標應該是什麼。

為了安全的 AGI 系統，技術問題和社會問題，這兩件事都需要正確，但 Hassabis 認為，後者可能更難實現。

目標和價值觀等一系列問題，會更多地涉及 UN 和地緣政治，甚至社會科學和哲學，需要與政府、學術界和民間社會各階層進行廣泛的討論。

即使 AGI 還需要 10 年才能實現，我們解決這些問題的時間也並不是很多，因此這方面的討論應該從現在開始，讓各種來源、各種觀點的聲音呈現在桌面上。

參考資料：

• https://www.ft.com/content/72d2c2b1-493b-4520-ae10-41c1a7f3b7e4

本文來自微信公眾號：微信公眾號（ID：null），作者：新智元

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。