諾獎得主DeepMind CEO德米斯:年底首批AI新藥即將進入臨床,已在開發超越o1的推理系統 | AI 2025

歡迎回到 AI 科技大班營 2025 AI 賽前分析周。隨著 CES 2025 「科技春晚」的落幕,美國科技圈又開始忙碌了起來:「星際之門」項目發佈、各大 AI 廠商發新模型、名人採訪紮堆亮相……今天帶來的是去年的「另一位諾獎 AI 大咖」德米斯·哈薩比斯的最新採訪,作為 DeepMind 的話事人,他爆的料可全都是Google的最新前沿動態,不容錯過。

整理丨王啟隆

近日,在《金融時報》主編 Roula Khalaf 的最新採訪中,Google DeepMind 的 CEO、2024 年盧保化學獎得主 Demis Hassabis 放出了一連串重磅消息:公司研發的首批 AI 新藥將在今年底進入臨床試驗,而且正在秘密開發代號為「Astra」的 Agent(智能體)系統。這位新時代的 AI 巨星還首次詳細描述了 Gemini 2.0 的「思維模型」,直言這是為了對抗 OpenAI o1 最新推出的推理系統。

金句盤點:

  • 「如果進展順利,今年年底我們就可能有第一批由 AI 開發的藥物進入臨床試驗階段。禮來製藥和諾華都已經把他們最棘手的項目交給我們。」

  • Google影片模型 Veo 2 標誌著世界模型的開端。這正是我們開發通用型數字助手所需要的,這種助手能在日常生活的各個方面幫助你。」

  • 「過去 15-20 年,我們一直把 AGI 定義為一個能展現出人類所有認知能力的系統。按這個標準,實現真正的 AGI 還需要 5 到 10 年。

  • 「Agent 系統會徹底改變互聯網架構。未來一兩年內,可能會有數十億個 AI Agent 在網絡上相互交互,代表供應商和消費者進行談判。」

  • 「現在所有的 AI 都會遇到幻覺問題,但我們的 Gemini 2.0 可以自己做事實核查,這在科學研究領域特別重要。」

以下是訪談全文,由 CSDN 精編整理:

年底首批 AI 新藥即將進入臨床

主持人:讓我們從你獲得盧保獎之前開始聊起吧。得知獲獎的感受如何?

Demis Hassabis:說實話,到現在我還覺得不太真實,整個過程都像在做夢幻一樣。這其實是我從小就有的夢想。當初投身人工智能領域,就是希望能推動科學發展。我一直認為人工智能可以成為推動科學進步的有力工具,特別是在改善人類健康方面,比如在藥物研發領域,而 AlphaFold 在這方面就發揮了極其重要的作用。

主持人:能請你簡單介紹一下 AlphaFold 是什麼嗎?

Demis Hassabis:當然可以。我們就是因為開發 AlphaFold 這個程序獲得了盧保獎。它最厲害的地方在於,只要給它一串蛋白質的氨基酸序列,也就是基因序列,它就能推算出這個蛋白質的立體結構。

這個突破非常重要。我們身體里所有的功能都離不開蛋白質,而蛋白質的立體結構決定了它的功能。它們在體內會摺疊成特定的立體形狀,這種形狀就決定了它們能做什麼。無論是研究疾病、瞭解生命運作的規律,還是研發新藥,都需要先弄清楚蛋白質的立體結構。AlphaFold 就是解決這個難題的一把鑰匙。

主持人:你是怎麼慶祝(獲獎)這個好消息的?

Demis Hassabis:這還是個挺有意思的故事。10 月 9 號那天,獲獎的消息來得特別突然——要知道,從做出重大突破到獲得盧保獎的認可,一般都得等上很久,可能是 10 年、20 年,有時候甚至要等 30 年、40 年。而我們只用了 4 年就獲得了這個獎,確實有點意外。

說來也巧,第二天正好有個絕佳的慶祝機會。當時我的一位童年好友在家裡舉辦了場棋牌之夜,請來了幾位在城里的朋友。其中不乏世界頂級的國際象棋和撲克高手,包括世界象棋冠軍卡爾森在內,都是一等一的高手。那晚的情形很有意思,我還特意拍了張照片,打算以後發到 X 平台上分享。大家玩得特別認真,誰都不讓誰,這種氛圍恰恰是最令我享受的。

主持人:他們都沒有放水讓你贏?

Demis Hassabis:確實沒有。

主持人:你剛才提到獲獎來得特別快。這是不是也意味著學術界開始認可人工智能的價值了?畢竟另外兩位獲獎者的研究也都是關於人工智能的。

Demis Hassabis:從盧保委員會的選擇來看,確實是這個意思。物理學獎授予辛頓和霍普菲爾德,表彰他們在人工智能基礎研究方面的傑出貢獻。再加上我們的工作,這些都表明人工智能已經發展到了一個新階段,它現在確實能幫助我們解決一些最深奧的科學難題了。

說到獲獎時間,雖然來得出乎意料,但這也很好理解。按照盧保的遺囑,這個獎項是要授予「為人類帶來最大福祉」的成果。所以委員會不光看重研究本身的突破,還要看它是否真正造福了人類社會,而且影響要足夠深遠。

通常來說,從取得突破到看到實際影響,往往需要幾十年的時間。但對我們團隊、整個 DeepMind 和Google來說,AlphaFold 很快就展現出了巨大的價值。我給你舉個例子:現在全球已經有超過 250 萬研究人員在使用它,我們還用它解析出了已知的所有蛋白質結構,總共有 2 億個。要知道,用傳統實驗方法,確定一個蛋白質的結構平均需要 5 年時間。一個博士生可能整個博士階段才能搞掂一個蛋白質的結構。按這個速度,2 億個蛋白質結構就得花上 10 億年的時間。而現在,我們把這些數據全都免費開放給全世界使用。

這就是我所說的「數字時代的科學研究」。就像數字技術能快速傳播到世界各地一樣,科學突破現在也可以更快地推廣應用,特別是在醫療健康領域。

主持人:你現在的研究重點是什麼?大家都很想知道,你覺得未來哪些領域最可能出現重大突破?

Demis Hassabis:我們目前主要在兩個方向上投入力量。第一個是繼續做基礎研究,我們在開發更先進的模型,涉及生物學、化學、物理學、數學,還有天氣預報等領域。比如說,新版本的 AlphaFold 已經能夠分析動態的生物學過程了

另一個方向更偏向實際應用。我們專門成立了一家新公司 Isomorphic Labs,就是為了把 AlphaFold 的技術用在藥物研發。其實要開發新藥,光知道蛋白質的立體結構還不夠,這隻是整個過程的一小部分。你還得設計藥物分子,確保它無毒、性質合適、能夠溶解。這些工作都需要其他同樣複雜的模型來配合。如果把這些技術都整合起來,就有可能徹底改變新藥研發的方式。要知道,現在開發一種新藥通常需要 5 到 10 年時間,我們的目標是把這個過程縮短到原來的十分之一,這對人類健康來說將是一場革命性的突破。

主持人:那麼,什麼時候我們能看到第一個由 Isomorphic 和人工智能共同開發的藥物問世呢?

Demis Hassabis:去年我們已經和禮來製藥、諾華製藥達成了合作。他們給了我們一些特別難啃的骨頭,都是他們的化學家一直找不到好方案的項目,我們就喜歡接這樣的挑戰。同時我們也有自己的藥物研發項目。我們的研究範圍很廣,因為我們的技術是通用的,可以用於各個領域,包括腫瘤、心血管疾病、神經退行性疾病等重大疾病。如果進展順利的話,今年年底我們就可能有第一批藥物進入臨床試驗階段

影片模型 + Agent = ?

主持人:我知道你最關心的是科學研究,不過現在你要負責Google的所有人工智能項目。去年很多人都說Google還在追趕 OpenAI,OpenAI 才是行業焦點。但是今年你們取得了好幾個突破,你覺得哪一個最重要?

Demis Hassabis:過去一年我們確實成果豐碩,現在還在保持這個形勢。去年年底我們推出了一系列新模型。其中最重要的是 Gemini 2.0,特別是它的 Flash 版本。雖然這是最小的版本,但以它的規模來說,性能和效率都特別出色,非常適合推廣給數十億用戶使用。各項評測的結果都很令人滿意。

我們還開發出了最先進的影片模型 Veo 2。你們可能看過我們製作的一些影片,它對物理規律的模擬精確程度真的讓我驚歎。有個經典的測試案例是生成一段切西紅柿的影片。聽起來很簡單,但實際上很有挑戰性,因為要準確展示手指和刀具的位置,切下的片段還不能莫名其妙地重新黏在一起。Veo 2 在這些細節上的表現都非常出色。

對我們來說,這標誌著「世界模型」的開端。這種模型不僅能理解語言,還能理解現實世界的豐富性,包括空間和時間等維度。這正是我們開發通用型數字助手所需要的,這種助手能在日常生活的各個方面幫助你。

主持人:你說的這些就是所謂的「Agent」系統嗎?

Demis Hassabis:對,這就是我們正在開發的 Agent 系統,項目代號叫「Astra」。目前這個項目還處於研究階段,正在進行可信用戶的測試。

主持人:普通用戶要等多久才能用上這個系統呢?

Demis Hassabis:這得看測試的結果,而且還有很多研究工作要做。不過我覺得今年晚些時候,應該能推出一個面向普通用戶的版本。這些技術的發展方向真的讓我很興奮,現在我們在大多數領域的模型都處於領先地位。

主持人:說到競爭,繼 OpenAI 之後,DeepSeek 也推出了能進行推理的大語言模型。Gemini 2.0 有這種能力嗎?你們是怎麼實現這一點的?

Demis Hassabis:我們有自己的版本,我們稱之為「思維模型」。現在是所有頂尖實驗室最熱門的研究方向之一。我們在探索怎樣讓一個基礎模型通過預訓練和後期訓練,在實際使用時能夠進行更深入的思考,對自己的答案進行反思,必要時還能用搜索等工具來核實信息。這樣做的主要目的是解決現有模型的一些問題,比如「幻覺」現象。

其實在 DeepMind 早期開發 AlphaGo 和其他遊戲 AI 時,我們就開創了這個領域。那些 AI 都是 Agent 系統,都包含模型和思維或搜索功能。現在的區別在於,我們不是在處理規則簡單的遊戲,而是要應對現實世界,這要複雜得多。我們需要建立模型來理解語言,學習這個世界的各種規律。

在 AlphaGo 那樣的遊戲中做規劃比較容易,因為規則簡單明確。現實世界就複雜多了。即使你的世界模型只有 1% 的誤差,當你往前推演 100 步時,這個誤差也會不斷累積。走到第 100 步時,由於這 1% 誤差的積累,你可能已經完全偏離了正確的軌道。所以要在較長時間內進行準確的思維和推理,模型必須有很高的準確性和可靠性。

主持人:所以我很好奇推理這個問題。我們現在使用的大語言模型最大的問題之一就是「幻覺」,我想你經常被問到這個問題。有種說法是可以通過讓模型自己做事實核查來克服這個問題。但似乎這種方法並沒有得到廣泛應用,這是為什麼呢?

Demis Hassabis:我們正在通過幾種不同的方式來解決事實準確性的問題。很高興地告訴大家,Gemini 2.0 在這方面比我們之前的版本有了很大進步。作為Google和 DeepMind 的一員,我們特別重視這一點。畢竟如果想用這些模型來做科學研究——這也是我最終的目標,準確性就顯得尤為重要。

解決這個問題有很多方法。首先,我們可以在訓練階段就下功夫,比如在預訓練時就把錯誤信息過濾掉。其次,我們可以讓系統學會使用工具,比如調用Google搜索來核實事實。還有什麼比搜索引擎更適合做事實核查的工具呢?關鍵是要讓系統學會在什麼時候該去查證。最後就是推理能力,如果給系統更多時間來思考,讓它能夠反復推敲而不是急著給出答案,準確性自然會提高。

主持人:有人說,其實你們不應該完全消除「幻覺」,因為這恰恰是創造力的來源。你同意這個觀點嗎?

Demis Hassabis:這個說法在某些領域可能有道理。但如果要這樣做,就應該是有意識的選擇,而不是隨機發生的現象。我們最好能設置一個開關,讓用戶明確表示「我現在需要創造性思維」。不過這也讓我們不得不思考一個更根本的問題:什麼才是真正的創造力?「幻覺」也許是進入新思維空間的一種方式,但這應該是一個可控的功能,而不是系統的缺陷。

主持人:那你自己是怎麼使用Gemini的?又是怎麼指導孩子們使用這項技術的?

Demis Hassabis:我的孩子們特別喜歡用那些創意工具,尤其是生成圖像的功能。我自己則更喜歡用基於 Gemini 開發的 NotebookLM。比如說,當我想瞭解某個研究課題,我就把相關的論文或網頁資料輸進去,它能幫我生成一個很有意思的播客。最開始我以為它只會簡單地總結內容然後讀出來,沒想到它會讓兩個 AI 角色進行對話式的討論,這種形式特別吸引人。這幾乎開創了一種全新的學習方式。現在系統更新後,你還能隨時打斷「播客主持人」,問他們問題。如果你們還沒試過,我強烈推薦大家去體驗一下,真的很神奇。我現在幾乎每天都用它來瞭解新的研究領域,先聽聽大概內容,再決定要不要深入研究。

真正的 AGI 還需要 5-10 年

主持人:你過去經常提到,你所做的一切都是為了實現通用人工智能(AGI)。但我一直不太明白,到底是什麼問題這麼重要,非得用 AGI 來解決不可?等會兒我還想請教你對實現 AGI 的時間預期。

Demis Hassabis:我想解決的是理解現實本質的終極問題。這種求知慾從我小時候就有了。通常對這類問題感興趣的人都會選擇物理學,確實,物理學曾是我在學校最喜歡的科目。但後來我讀了很多著名物理學家的著作,比如費曼、溫伯格,看到他們在尋找終極理論和統一物理理論的努力後,我覺得也許人類需要一些幫助。即使是最聰明的專家,可能也需要一個強大的工具來輔助研究。

在我看來,人工智能就是我能為探索終極意義作出的貢獻。我覺得探尋意義是人類最深層的需求之一。如果我們真的想搞清楚物理學和意識的本質,理解夢境和時間的奧秘——說實話,我不明白為什麼不是每個人都在思考這些問題,因為這些問題一直困擾著我。我們天天都在經歷這些現象,卻連時間到底是什麼都說不清楚。

主持人:但這種神秘感不正是生命的魅力所在嗎?

Demis Hassabis:確實如此。但人類天生就是好奇的生物,這也是為什麼會有科學和哲學的存在。我特別喜歡哲學,我覺得現在我們需要新一代的哲學家。如果現場有哲學家的話,我想說的是,我們現在確實需要像康德那樣的思想家來幫助我們理解未來的方向。要想完全理解現實的本質,包括所有的物理現象,我們可能需要一個 AGI 級別的系統。

主持人:你覺得實現這個目標需要多長時間?是 5 年?10 年?還是 50 年?

Demis Hassabis:這個問題現在爭議很大。我平時不太願意給出具體時間,而且這也要看你怎麼定義 AGI。在 DeepMind,我們過去 15-20 年一直堅持一個定義:AGI 是一個能夠展現出人類所有認知能力的系統。人類大腦是我們目前在宇宙中發現的唯一一個具有通用智能的例子。所以如果你說一個系統有通用智能,那它就應該能做到人類大腦能展現的所有事情,包括創造力。

按照這個標準來看,我認為實現真正的 AGI 還需要 5 到 10 年時間。可能還缺少一兩個關鍵性的突破。

主持人:這個問題我想你一定想過很多遍:究竟應該由誰來判斷我們是否已經實現了 AGI?是科學家、人工智能專家,還是政府和整個社會?現在在這場討論中,後兩者似乎都沒什麼發言權。

Demis Hassabis:我認為這需要整個社會共同參與,包括所有利益相關方:產業實驗室、學術界、公民社會、各大研究院,以及政府。在考慮技術部署和產品應用時,所有可能受影響的群體都應該有發言權。

在Google和 DeepMind,我們一直在努力廣泛聽取各方意見。我們組織了人工智能科學論壇,我也經常和各大研究院交流,比如英國皇家學會、美國國家科學院。但我覺得可能我們還缺少合適的機構。如果聯合國的狀況更好一些,這本應該成為一個國際性的討論話題,因為這不是某個國家單獨能決定的事情。

說到國際合作,我很高興看到現在有了人工智能峰會這樣的活動。第一屆在英國舉辦,接著是南韓,下個月還將在巴黎舉行。我們需要加快這種對話和討論的節奏,共同探討如何部署這些系統,用它們來做什麼,怎樣讓更多人受益,以及如何降低潛在風險。

短期高估與長期低估

主持人:你比較擔心哪些風險?等會兒我們再談談監管的問題。

Demis Hassabis:我主要擔心兩個方面的風險。第一個是有人可能會把通用人工智能系統改造成做壞事的工具。我們一直都很支持開放科學和開源,比如說 AlphaFold 就是完全開源的。過去十年里,我們也發表了大量研究成果,現在業界 80-90% 的技術都是建立在Google和 DeepMind 公開的研究基礎上,像 Transformer 架構、AlphaGo 這些想法,我們都是無償分享給大家的。

但人工智能和其他技術不太一樣,它太靈活了,用途太廣泛了,很容易被重新改造。系統越是像人那樣能自主行動,就越容易被人改造成其他用途。如果是一般的網絡接口,一旦發現有人在濫用,你還可以直接關掉訪問權限。但人工智能系統的特殊之處在於它是一種新興技術,不是你測試一下就能完全瞭解的東西。比方說汽車引擎,它不會突然冒出你不知道的新功能。但人工智能系統即使你測試了半年,等到幾十億人開始使用時,可能有人就會想出新的組合方式,發現一些意想不到的新用途。

第二個風險是來自技術本身的,我們有時候把它叫做「AGI 風險」。這個倒不是現在的問題,而是等我們真的接近 AGI 時才需要面對的。

主持人:如果按照你的路線發展,我們確實會越來越接近 AGI。

Demis Hassabis:是的,但這不僅僅是我的選擇。如果你研究科學發展史就會發現,只要某件事是可能的,而且值得去做,總會有人去做的。說到人工智能,我們已經過了能夠刹車的階段了。所以我們現在要做的是,想辦法讓它安全地融入這個世界。

這意味著我們要考慮 AI 本身的主動性,考慮應該開發什麼樣的 AI,然後在國際上就此達成共識。建造 AI 的方式有很多種,如果你仔細想想 AGI 可能的設計方案,有些方案可以讓 AI 保持可控、容易理解,但也有些方案會讓 AI 變得難以理解和控制。

這些問題現在就需要研究。技術層面的問題反而不是最難的——我對此很樂觀,只要給我們足夠的時間和人力,技術問題總是能解決的。真正的挑戰在於地緣政治層面的協調,比如如何避免囚徒困境或公地悲劇這樣的問題。

主持人:說到這個就不得不提到唐納德·特朗普了,因為就在 24 小時之內,他就退出了好幾個國際協議。這意味著在未來四年里,達成任何國際共識都會非常困難。而且可能會出現更多的放鬆管製,而不是加強管製。這讓你擔心嗎?

Demis Hassabis:我們還是要看新政府具體會怎麼做。不過有一點讓我感到欣慰,就是新政府團隊中有不少深諳科技的專家。他們清楚這裡面的機遇和風險。我認識的很多人都很瞭解這其中的利害關係,包括好處和壞處。這可能是件好事。

我認為對待這項技術要做到既大膽又負責。說到大膽,我就很讚成英國政府在經濟增長方面的嘗試,比如提高醫療服務效率,將 AI 用於醫學研究,治療疾病,應對氣候變化。說實話,我想不出不用 AI 這樣的新技術,我們要怎麼解決當今社會面臨的這些重大挑戰。但同時我們也需要用明智和負責任的方式來做這些事。我建議把科學方法放在核心位置。

主持人:說起競爭對手,埃隆·馬斯克最開始是支持暫停 AI 發展的,他想要放慢節奏,但現在他自己也推出了 Grok 成為了競爭者。而且他很可能會成為一個受到特別優待的競爭者。這可能帶來的問題比單純的放鬆管製更嚴重。我聽說你從早期就認識他?

Demis Hassabis:是的,我們是好朋友,雖然現在也成了競爭對手。他是 DeepMind 的早期投資人之一,我們認識已經超過 12 年了。從一開始我們就在討論 AI 的話題——說實話,我覺得是我最初讓他對 AI 產生興趣的。

這裏涉及的問題遠比公司之間的競爭或產品之爭重要。我們一直在討論人類的未來,人類的處境,我們作為一個社會、作為一個物種想要走向何方。這才是真正的關鍵。我覺得有些人已經意識到這一點了,但可能還需要更多人來理解這個問題的重要性。

我覺得大家現在對 AI 的短期影響有點反應過度——動不動就說明年就能實現 AGI 了,搞得人心惶惶。但說實話,AI 在未來 5 到 10 年內會帶來什麼樣的改變,反而被低估了。

主持人:我倒是對企業採用 AI 的速度感到意外,比我預想的要慢。ChatGPT 問世第一年後,大家都覺得必須要嘗試,也確實都在嘗試,但似乎都沒找到真正合適的應用方式。

Demis Hassabis:這就是我們現在的處境——這些看起來很厲害的系統,其實只在一些具體的場景下有用,比如總結文檔、做研究、寫格式化的推薦信之類的。它還不是真正的 AGI,因為如果是 AGI 的話,你會看到各種完整的數字助手真正融入你的日常生活,幫你做各種事情,從推薦有趣的內容到豐富你的生活方式等等。但現在這些都還沒實現。真正重大的變革會在 5 到 10 年內發生,但我覺得很多人還沒意識到這一點。

主持人:你覺得它會怎麼改變我所在的媒體行業呢?

Demis Hassabis:也許說它不會改變什麼更容易一些——說實話,它會帶來方方面面的影響。我經常思考社交媒體的問題。現在我們每個人都被各種算法推送的信息淹沒了,而這甚至還不是 AI 算法,只是普通的軟件和推薦系統。我在想,我們能不能讓技術真正為個人服務,甚至幫助我們保護自己的思維方式。

比如說,想像一下有這麼一個數字助手,你可以設置它說:「今天我想安安靜靜地寫作(或編程、做研究),除非有特別緊急的事,否則都別打擾我。」

現在的情況是,我們不得不自己去那個信息的漩渦里尋找我們在意的內容,而且還要用同一個正在專注工作的大腦去篩選信息。這樣一來,你的注意力馬上就被打散了。如果有一個 AI 助手能幫你處理這些事情,那就好多了。這就是我們對數字助手的設想。

比定居火星更遙遠

主持人:讓我們聽聽觀眾的問題。

觀眾:你提到了天氣模型,我很好奇你們是否也在研究氣候問題?這兩個問題有什麼不同?

Demis Hassabis:我們確實開發出了 GenCost,這是目前世界上最準確的天氣預報模型,而且我們已經開源了。至於氣候建模,這是個完全不同的課題。你要處理的數據類型不一樣,而且不像天氣預報那樣是短期預測,氣候預測要看很長的時間跨度。我們的 GenCost 團隊正在考慮把研究擴展到氣候建模領域。

觀眾:幾年前你曾經提到可能會把 AGI 交給聯合國這樣的機構管理。在這場 AI 競賽開始之前,各家公司都在公開分享研究成果。現在你還是這麼想嗎?如果一家公司真的開發出了 AGI,它應該繼續持有嗎?公司的股東會同意放棄這種技術嗎?

Demis Hassabis:這確實涉及到近期的資本主義體制等問題。但是往長遠看,等到我們在 10 年內實現了完整的 AGI,經濟學家們可能需要重新思考很多基本問題:它對貨幣、對資本主義制度、甚至對公司這個概念本身會產生什麼影響。我覺得這些都可能會發生根本性的改變。

這件事顯然不是一家公司能掌控的,更不是某個個人或某個國家能決定的。這關係到全人類的福祉。理想情況下,應該有一個能夠應對這個重大時刻的機構——一個由各行各業聰明人組成的國際委員會,不僅要有技術專家,還要有哲學家、社會學家、作家等,大家一起商討。

但問題是,誰來建立這樣的機構呢?這確實是我們現在急需的。理想情況下,它應該像聯合國這樣的組織,但由於地緣政治緊張和安理會的問題,這很難實現。也許我們可以借鑒歐洲核子研究組織(CERN)的模式,建立一個專門研究 AI 的國際機構。這個機構可以非常謹慎、科學、嚴謹地推進最後幾步的研究,讓政府、學術界和產業界都能參與其中。

主持人:這就是為什麼你說自己是個「謹慎的樂觀主義者」嗎?

Demis Hassabis:說我樂觀很容易理解——我把一生都投入到 AI 研究中,就是因為我相信它將成為人類史上最令人驚歎、最有益的技術。我相信通過它我們能治癒所有疾病,找到新的清潔可再生能源。這會給我們帶來前所未有的富足。之後,我們就可以踏上星際旅程,把人類的意識傳播到整個銀河系。這就是我覺得將要發生的事情。

主持人:看來我們很快就能到達火星了。

Demis Hassabis:不只是火星,我們能走得更遠。想想《星際迷航》或者伊恩·賓士的《文化》系列小說描繪的世界——那將是個多麼令人驚歎的未來啊。這就是我們想要達到的境界。這是我樂觀的一面。我想很難找到比我更樂觀的技術愛好者了。

但是,我們得小心翼翼地走到那一步。有很多種方式可以開發出為人類服務的 AGI,幫助我們實現這個終極目標。我把它看作是將人類意識傳播到星辰大海——這就是卡爾·薩根為人類描繪的願景。這個目標現在看起來觸手可及,但如果出了差錯——無論是被不法分子濫用,還是 AGI 本身失控——後果都可能是災難性的。

在面對這麼多不確定性的時候,我樂觀的另一個原因是我相信人類的創造力。我們的適應能力特別強。人類的大腦真是太神奇了。想想看,我們用這個原本是為了採集和狩獵而進化的大腦,卻創造出了現代文明,這是多麼不可思議啊。每次我坐 747 飛機去加利福尼亞的時候都會想:我們是怎麼做到這一切的?很多人已經把這當成理所當然了。如果我們告訴我們的狩獵採集者祖先這些事,他們一定會覺得不可思議。

我們已經走了這麼遠。我相信我們也能完成這個新的挑戰,但我們需要通力合作,用正確的方法去做,而不是急於求成。如果我們能讓世界上最優秀的頭腦——比如說數學界的泰賴恩斯·陶這樣的天才——來研究這些 AGI 的設計問題,只要給我們足夠的時間,技術問題總是能解決的。但我們能解決地緣政治和社會問題嗎?這才是真正的挑戰所在。

主持人:聽起來你們可能需要先放慢幾年,然後再加速前進。

觀眾:我想接著談談你提到的 AI Agent 系統。當將來有大量這樣的 Agent 系統在各處活動,互相之間產生交互時會發生什麼?特別是在金融服務這樣的實際應用中,誰來為它們的行為負責?

Demis Hassabis:Agent 系統之所以一定會被開發出來,是因為它比非 Agent 系統要實用得多。現在的語言模型聊天機器人基本上就是一個被動的問答系統。比如說,如果你想找餐廳,為什麼要到此為止呢?你肯定希望它能直接幫你訂位子。正因為 Agent 系統能幫人們節省時間,改善生活,所以人們一定會選擇使用 Agent 而不是非 Agent 系統。

但這就引出了你提到的問題——再過個一兩年,可能就會有數百萬甚至數十億個 Agent 程序,它們會代表供應商和消費者進行各種談判。我們可能需要重新思考整個網絡基礎設施和應用程序的架構。這是另一個即將在中期發生、但目前被人們低估的重大變革。

觀眾:關於你們的生物系統,要多久才會有人利用它設計出能殺死所有人的完美病原體?

Demis Hassabis:首先要說明的是,開發病原體根本不需要用到 AI 系統。在推進 AlphaFold 和其他工具的研發過程中,我們每走一步都會跟生物安全專家和生物倫理學家保持溝通。在發佈 AlphaFold 2 之前,我們就諮詢了 30 位生物安全專家和盧保獎得主,確保這項技術帶來的好處大於潛在風險。我們也根據他們的反饋做出了相應的調整。

隨著系統變得越來越先進,我們需要建立相應的檢測系統。這也是為什麼開源可能會成為一個問題——如果是通過 API 接口提供服務,你就可以建立檢測系統,在有人試圖開發有害病原體時立即發現。我們特別關注三個領域的安全問題:網絡安全、生物安全和核安全

觀眾:現在看起來中美在進行一場 AI 競賽。如果其中一方勝出,你覺得會對世界產生什麼影響?另外,來自大公司的大數據會不會產生偏見?

Demis Hassabis:最近剛發佈的 DeepSeek 模型確實很有意思,而這正是我們需要國際合作的原因。如果我們能建立一個類似歐洲核子研究組織那樣的 AI 研究機構,也許可以決定只開發一個功能強大但有完善安全保障和管理機制的系統。不是所有人都能接觸到最強大的系統,可能需要設置不同的訪問權限等級。我們應該考慮一些安全措施,比如水印技術——如果有人輸出蛋白質序列、分子結構或 DNA 序列,系統要能自動檢測是否有人在設計有害物質。理想情況下,這些都應該通過國際協議來規範。

資料參考: