剛剛,DeepSeek公佈了推理引擎開源路徑,OpenAI也將開始連續一週發佈
機器之心報導
編輯:Panda
今天下午,DeepSeek 默默地在自己的 open-infra-index 庫中發佈了一份題為「開源 DeepSeek 推理引擎的路徑」的文檔,宣佈將開源自己的內部推理引擎(internal inference engine)並與開源社區建立更廣泛的合作。有意思的是,該文檔發佈之後不久就經歷了兩次修改,對一些措辭和表述進行了更加中立和寬泛的處理。

在其中一次修改中,DeepSeek 提到了與 SGLang 和 vLLM 項目的合作關係,但這兩個具體的項目名稱在新版本中被替換成了「現有的開源項目」。修改原因是為了強調「未來的開源合作是面向整個開源社區的,不局限於具體某些項目。」因此,DeepSeek 與 SGLang 和 vLLM 這兩大開源項目的合作關係應該是已經確定了。

不得不說,DeepSeek 非常 GOAT(Greatest of All Time)!

而就在不久前,Sam Altman 才宣佈 OpenAI 將開始一輪發佈周。猶記得上一次,在 OpenAI 一連 12 個工作日的連續發佈中,o1 滿血版、Sora、強化微調技術、Canvas 更新、o3-mini 等產品和服務紛紛問世。不知道,這一次,OpenAI 又將發佈什麼東西?

事實上,各路網民已經開始根據各種草蛇灰線的線索開始猜測這一週將會發佈的東西了。說實在的,有一些頗具說服力,而且還有證據。
下面我們首先將介紹「開源 DeepSeek 推理引擎的路徑」,然後將簡單盤點一番網民對 OpenAI 這周發佈內容的預測。
開源 DeepSeek 推理引擎的路徑

文檔地址:https://github.com/deepseek-ai/open-infra-index/blob/main/OpenSourcing_DeepSeek_Inference_Engine/README.md
以下為 DeepSeek 發佈的文檔的原文譯本:
幾週前,在開源週期間,我們開源了多個庫。社區的反響非常積極 —— 激發了鼓舞人心的合作、富有成效的討論以及寶貴的錯誤修復。受此鼓舞,我們決定更進一步:將我們的內部推理引擎回饋給開源社區。
我們非常感謝開源生態系統,沒有它,我們不可能在通用人工智能 (AGI) 方面取得進展。我們的訓練框架依賴於 PyTorch,我們的推理引擎基於 vLLM,這兩者都對加速 DeepSeek 模型的訓練和部署起到了重要作用。
鑒於部署 DeepSeek-V3 和 DeepSeek-R1 等模型的需求日益增長,我們希望盡己所能回饋社區。在我們起初考慮將完整的內部推理引擎開源時,我們發現了一些挑戰:
-
代碼庫差異:我們的引擎基於 vLLM 一年多前的一個早期分支。雖然結構相似,但我們針對 DeepSeek 模型對其進行了大量定製化處理,因此難以擴展到更廣泛的用例。
-
基礎設施依賴:該引擎與我們的內部基礎設施(包括集群管理工具)緊密耦合,如果不進行重大修改,就無法進行公開部署。
-
維護帶寬有限:作為一個專注於開發更優質模型的小型研究團隊,我們缺乏維護大型開源項目的帶寬。
考慮到這些挑戰,我們決定採用一種更可持續的替代方案:與現有的開源項目合作。
展望未來,我們將在以下方面與現有的開源項目緊密合作:
-
提取出分立的功能:將可複用的組件模塊化並作為獨立的軟件庫貢獻出來。
-
共享優化:直接貢獻設計改進和實現細節。
我們衷心感謝開源運動 —— 從操作系統和編程語言到機器學習框架和推理引擎。能夠為這個蓬勃發展的生態系統做出貢獻,並看到我們的模型和代碼受到社區的廣泛歡迎,我們深感榮幸。讓我們攜手突破通用人工智能 (AGI) 的界限,並確保其造福全人類。
註:需要說明,本文僅概述了我們開源 DeepSeek-Inference-Engine 代碼庫的路徑。對於未來的模型發佈,我們將對開源社區和硬件合作夥伴保持開放和協作的態度。我們承諾在新模型發佈之前主動同步與推理(inference)相關的工程工作,目標是使社區能夠從第一天起就獲得 SOTA 級支持。我們的最終目標是建立一個同步的生態系統,使尖端的 AI 功能能夠在模型正式發佈後無縫地應用於各種硬件。
OpenAI 將發佈什麼?
看了 DeepSeek 振奮人心的開源路徑,再來看看 OpenAI 是否有可能給我們帶來類似的震撼。
o3、o4-mini、GPT-4.1 系列模型
對於 OpenAI 這次發佈周,目前最可信的信息還是來自 OpenAI 自己,其已經在自家的 CDN(內容分發網絡)上發佈了一些圖標,幾乎明示了即將發佈的一系列模型。從目前網民們收集到的數據看,OpenAI 這一次一共公佈了至少 5 個圖標:

但從這些圖標看,OpenAI 有可能在今晚開始的發佈周中發佈至少 5 個模型,包括 o3 滿血版與 o4-mini 兩個推理模型以及 GPT-4.1 系列模型(包括滿血版、mini 以及 nano)版。
開源模型
此外,還有人猜測 OpenAI 可能會開源一個可與 DeepSeek-R1 比肩的開源模型,而且這個模型很可能就是已經在 OpenRouter 上線且可免費使用的 Optimus Alpha。該模型支持 100 萬上下文長度,網民實測其編程性能非常好。

地址:https://openrouter.ai/openrouter/optimus-alpha
理由之一是如果用戶讓 Optimus Alpha 介紹自己,他會自稱是來自 OpenAI 並且基於 GPT-4 架構。

智能體軟件工程師
OpenAI CFO Sarah Friar 近日在高盛舉辦的一次活動上透露,該公司正在開發一款名叫 Agentic Software Engineer(A-SWE)的產品,即智能體軟件工程師 / 自主式軟件工程師。不同於編程助手(Copilot),A-SWE 可以自己完成構建應用、處理拉取請求、進行質量保證、修復錯誤和編寫文檔等任務。
影片由 𝕏 用戶 @slow_developer 剪輯
在此之前,OpenAI 已經發佈了 Operator 和 Deep Research 這兩款智能體,分別面向計算機控制和深度研究兩個應用方向,而 A-SWE 很顯然會是一個面向編程任務的智能體。
除了以上傳言,還有網民猜測 OpenAI 可能還會發佈一個新的圖像生成模型,並且其性能可能勝過因吉卜力風格生成而大火的 GPT-4o。不過關於此傳言的切實信息並不多。
你期待在 OpenAI 這次發佈周上看到什麼呢?
參考鏈接
https://github.com/deepseek-ai/open-infra-index/tree/main
https://x.com/sama/status/1911490401221120284
https://cdn.openai.com/API/docs/images/model-page/model-icons/gpt-4.1-mini.png
https://x.com/ImperialistsL/status/1911677033404612659
