大模型版生命遊戲來了!「AI科學家」背後公司聯手MIT&OpenAI等打造
量子位 | 公眾號 QbitAI
大模型版生命遊戲來了。
ALife,即人工生命,旨在通過人工手段研究生命和類生命過程。程序員們深深著迷的康威生命遊戲,就屬於這一研究領域。
現在,來自Transformer作者之一Llion Jones創辦的Sakana AI,以及MIT、OpenAI等研究機構的聯合團隊,基於大模型提出了一種新的ALife研究範式——
ASAL,人工生命自動搜索。
也就是利用多模態大模型來指導ALife模擬。
研究人員發現,在包括康威生命遊戲在內的各種ALife基礎方法上,ASAL都行之有效,還挖掘出了以前從未被發現的新生命形式。
並且,ASAL像康威生命遊戲一樣,展現出了開放式進化的特點。
利用大模型自動搜索人工生命
ALife主要通過計算模擬來研究生命,核心是搜索並繪製出整個可能的模擬空間。
而此項研究的主要目的,就是利用大模型,實現生命模擬中的搜索自動化。
研究人員首先定義一組感興趣的模擬形式,稱為基質(substrate)。然後,讓ASAL通過三種方法來發現人工生命形式。
三種方法分別對應ALife研究中的三個重要目標:
-
複現特定生命現象
-
實現開放式進化
-
探索生命可能性空間
有監督目標搜索
其一,有監督目標搜索,目標是找到能夠產生指定目標現象或事件序列的模擬。
具體的方法是,給定一系列描述目標狀態的文本提示(Prompt),最大化模擬生成圖像在不同時間步上,與相應提示詞的匹配度。
用公式表示就是:
其中θ表示模擬參數,
表示運行模擬T步後的渲染圖像,
和
分別表示將圖像和文本映射到基礎模型表示空間的函數。
開放式搜索
其二,開放式搜索,目標是找到能夠持續產生新行為的開放式模擬。
這對於ALife而言是非常重要的:開放性對於新事物的爆發是必要的。
研究人員採用的方法是,最大化模擬產生的圖像,在基礎模型表示空間中,相對於歷史狀態的新穎度。
照明式搜索
最後是照明式搜索,目標是找到一組展現出多樣行為的模擬。
方法是,最大化一組模擬在基礎模型表示空間中的覆蓋度,即最小化每個模擬與其最近鄰的距離。
實驗結果
為了驗證ASAL的有效性,研究人員在過個經典ALife環境中進行了實驗,包括鳥群算法(Boids)、粒子生命模擬、類生命元胞自動機、Lenia(將康威生命遊戲推廣到連續空間)和神經元胞自動機(NCA)等。
採用的基礎模型包括CLIP和DINOv2。
結果顯示,在Lenia、Boids和粒子生命模擬等環境中,給定不同的目標文本提示,ASAL都能搜索到與之匹配的模擬。
並且不僅僅是在單個目標上,在對事件序列的模擬中,ASAL同樣有效。
開放性方面,研究人員使用類生命元胞自動機(Life-Like CA)為「基質」,CLIP為基礎模型,對ASAL進行了驗證。
結果顯示,ASAL找到了一些展現出與康威生命遊戲相似的開放性行為的規則。
這些自動機能夠持續產生新模式,在基礎模型空間中形成發散的軌跡。
另外,在Lenia和Boids環境中,ASAL使用照明式搜索發現了具備豐富多樣行為的模擬,併發現了許多前所未見的生命形式。
研究人員還提到,利用基礎模型的語義表示,對於此前只能定性分析的現象,ASAL實現了新的突破:可以對一些人工生命現象進行定量分析。
最後,簡單總結一下就是,ALife旨在重現自然進化,而這項新研究,突破了人工設計模擬的瓶頸,加速了ALife發現。
此前打造了首位「AI科學家」的Sakana AI在公佈這項研究時,還劃了個重點:
這加快了我們對湧現、進化和智能的理解,其中的核心原理可以激發下一代AI系統!
項目主頁:
https://pub.sakana.ai/asal/