盧保獎是AI發展的里程碑時刻！DeepMind聯創Hassabis獲獎後最新專訪

新智元報導  

編輯：祖楊

【新智元導讀】今年的諾獎將物理和化學兩個領域的獎項都頒給了AI成果，這究竟代表著怎樣的含義，又會產生怎樣的影響？Demis Hassabis在本次專訪中提出了自己的見解。

10月，DeepMind聯合創始人兼CEO Demis Hassabis憑藉AlphaFold成為了盧保化學獎的三位共同獲獎者之一。

作為一種人工智能軟件，AlphaFold解決了一個生物學界50年前提出的問題：預測每種已知蛋白質的結構。

事實上，AlphaFold這個極具開創性的模型，也僅僅是DeepMind成果的一部分。成立15年來，DeepMind已經躋身為全球最重要的AI實驗室之一。

儘管被Google收購、與Google Brain合併後加入了一些商業考量，但他們目前仍然專注於科學和工程中最複雜和基本的問題，最終設計出能夠模仿，甚至取代人類認知能力的強大AI。

獲得諾獎後不到24小時，Demis Hassabis就接受了《金融時報》記者Madhumita Murgia的採訪，討論了DeepMind下一步將要解決的重大難題、AI對科學進步的作用，以及他本人對AGI之路的前景預測。

AI4Science的下一個挑戰

AlphaFold 3的相關進展，就一定程度上彰顯了DeepMind在生物學領域下一步的前進方向——理解生物體內的相互作用，最終對整個通路進行建模，甚至可以構建出一個虛擬細胞。

此外，通過DeepMind子公司Isomorphic的努力，他們也在進軍藥物發現領域——設計全新的化合物、找到結合位置，並預測出這些物質的特性、吸收性、毒性等等。

目前，Isomorphic還與禮來、諾華等公司合作開展了6個藥物研發計劃，有望未來幾年內在臨床上有所進展，希望能大幅縮減藥物發現所需時間，從而幫助治癒一些疾病。

除了生物學領域，Hassabis也表示對材料設計領域的工作感到十分興奮。

去年，他們在Nature上發表的一篇論文提出了名為GNoME的AI工具，實現了AlphaFold 1級別的材料設計，共發現了220萬個新晶體；下一步，就需要努力達到AlphaFold 2級別。

論文地址：https://www.nature.com/articles/s41586-023-06735-9

數學方面，AlphaProof和AlphaGeometry已經在今年達到了IMO銀牌的水準，接下來的幾年，DeepMind將嘗試借助AI的力量真正解決一個重要的數學猜想。

對於能源和氣候領域，去年在Science上發表的Graphcast模型能在1分鐘內以前所未有的精度預測未來10天的天氣。

論文地址：https://www.science.org/stoken/author-tokens/ST-1550/full

這其中的技術，或許可以幫助進行氣候建模，這對於應對氣候變化、優化電網等領域都非常重要。

可以看出，DeepMind的未來藍圖中，重點更多地放在應用和工程實踐層面，旨在將技術進一步轉化為能夠影響現實世界的工作，而非純粹的基礎研究。

對此，Hassabis表示，「蛋白質摺疊」是一個「可遇不可求」的「挑戰」，不能要求每個問題都有如此重要性。

「蛋白質摺疊」這個問題如此核心且重要，相當於生物學領域的費馬大定理，但可惜的是，沒有多少問題足夠重要、探索時間足夠長，能夠被稱之為「挑戰」。

諾獎將成為AI的分水嶺

今年的盧保物理和化學獎項接連頒給AI學者，這很有趣，但誰也說不清評獎委員會為什麼會做出這樣的決定。

對此，Hassabis如何理解？

他表示，這很像是委員會特意發表的一種「聲明」，也將成為AI的分水嶺時刻，標誌著它的技術成熟度得到了足夠的認可，能夠協助科學發現。

AlphaFold就是最好的例子，而Hinton和Hopfield的獎項則是針對更基礎、更底層的算法工作。

Hassabis表示，希望10年後回顧當下時，AlphaFold將預示著所有這些不同領域的科學發現的新黃金時代。

這也帶來了一個有趣的問題：有了AlphaFold這樣的工具，科學家們不再需要花費過多的時間和精力來進行預測，這是否意味著我們應當去開拓新的領域？甚至改變學習科學概念的方式？

需要注意的是，AI系統是一類獨特的新工具，它們具有一些內在的功能，因而不適用於傳統意義上對工具的分類。

雖然AlphaFold等工具目前只能做到預測，但從某種意義上說，預測也是「理解」的一部分。如果你能預測，那就可以帶來理解。

甚至，如果預測的輸出足夠重要，比如蛋白質的結構，那麼它本身就是有價值的。

從更宏大的視角來看，科學中包含了很多層次的「抽像」。

比如，整個化學領域就是建立在物理學的基礎上。你不需要理解量子力學等全部的物理原理，也可以談論原子化合物，在化學自身的抽像層去理解它。

對生物學領域而言，我們可以研究生命，但仍然不知道生命是如何進化或出現的，甚至無法正確定義「生命」這個概念。

類似的，人工智能也像一個抽像層，構建程序和網絡的人們在一定的物理層面上理解這一點，但隨後產生的預測結果就像一種突然湧現的屬性，我們可以在科學的層面上自行分析這些預測。

AGI迫近，理解很重要

無論是自然科學，還是人工智能系統，「理解」都很重要。

人工智能是一門工程學科，這意味著你必須先建造出一個系統，之後才能研究、理解這個對象；而自然科學中的現象不需要製造，是天然存在的。

雖然AI系統是工程化的人造物，但這並不意味著比自然現象更容易研究，甚至可以預期到的是，它會像生物神經網絡一樣難以理解、分拆和解構。

現在這種情況正在發生，但我們已經取得了一些進展，比如有一個專門的領域叫做「機械解釋」（mechanistic interpretation），就是使用神經科學的觀念和工具來分析AI系統這個「虛擬大腦 」。

對於AI的可解釋性，Hassabis非常樂觀，認為未來幾年就會在理解AI系統這方面取得很大進展。

當然，AI也可以學著解釋自己。想像一下將AlphaFold與語言能力系統結合起來，它就可以一邊預測，一邊解釋自己在做什麼。

目前，很多領先的實驗室正在縮小他們的探索範圍，專注於對Transformers進行擴展。不可否認，這是一個很好的方向，也將成為最終AGI系統的關鍵組成部分，但DeepMind會繼續堅持探索和創新研究。

事實上，對於發明下一代Transformer而言，DeepMind擁有迄今為止最廣泛、最深入的研究平台，這是他們科學遺產的一部分。

這些探索都是必要的，一部分原因是為了看看我們能走多遠，這樣就知道需要探索什麼。

探索新想法，以及將令人興奮的想法發揮到極致，這兩條路都很重要。如果你不瞭解當前想法的絕對局限，也不會知道需要哪些突破。

LLM的長上下文窗口就是一個很好的例子。GoogleGemini 1.5 Pro做出的2M token上下文就是一個很酷的創新，目前沒有其他人能夠複製。

理解AI，才會有安全的AGI

Hassabis和很多科技領袖都曾預測，實現AGI還需要5～20年的時間。

如果要用科學方法實現這一目標，就意味著更多的時間、精力和思考，集中在AI的理解和分析工具、基準測試和評估上，需要目前投入的10倍。

這些投入不僅來自科技公司，還應包括AI安全機構，也來自學術界和民間社會。我們需要瞭解AI系統正在做什麼、它們的局限性，以及如何控制和保護這些系統。

「理解」是科學方法的重要組成部分，卻是純工程中所缺少的。工程只是旁觀——這個方法有效嗎？如果不起作用就再試一次，充滿了試驗和誤差。

科學則是在一切發生之前就能理解的東西。理想情況下，這種理解意味著更少的錯誤。這對於AI和AGI來說很重要，因為在運用一項如此強大的技術時，你希望儘可能少地犯錯誤。

也許幾年後，當我們接近AGI時，就會出現一個社會問題——我們希望這些系統具有什麼價值？我們要為它們設定什麼樣的目標？

這與技術問題不同。技術層面關注的是如何讓系統走上正軌，朝著設定的目標前進，但並不能幫助我們決定目標應該是什麼。

為了安全的AGI系統，技術問題和社會問題，這兩件事都需要正確，但Hassabis認為，後者可能更難實現。

目標和價值觀等一系列問題，會更多地涉及UN和地緣政治，甚至社會科學和哲學，需要與政府、學術界和民間社會各階層進行廣泛的討論。

即使AGI還需要10年才能實現，我們解決這些問題的時間也並不是很多，因此這方面的討論應該從現在開始，讓各種來源、各種觀點的聲音呈現在桌面上。

參考資料：

https://www.ft.com/content/72d2c2b1-493b-4520-ae10-41c1a7f3b7e4