Mistral的首個強推理模型：擁抱開源，推理速度快10倍

強推理終於要卷速度了。

大模型強推理賽道，又迎來一位重量級玩家。

本週二，歐洲人工智能公司 Mistral AI 發佈了 Magistral，這是一個全新的大語言模型（LLM）系列，展現了強大的推理能力。它能夠進行不斷反思，並解決更複雜的任務。

此次發佈包含兩個版本：面向企業客戶的大型專有模型 Magistral Medium，以及一個 24B 參數的開源版本 Magistral Small。其中開源版本使用 Apache 2.0 許可，可以自由使用、商用化；Magistral Medium 則可通過 Mistral 的 Le Chat 界面和 La Plateforme API 訪問。

直接使用：https://chat.mistral.ai/chat
模型開源：https://huggingface.co/mistralai/Magistral-Small-2506
論文：https://mistral.ai/static/research/magistral.pdf

在基準測試中，新模型取得了不錯的成績。這裏主要是 Magistral 與其前身 Mistral-Medium 3 和 DeepSeek 系列的對比。Magistral Medium 在 AIME2024 上的得分為 73.6%，其中多數投票為 64%，得分為 90%。Magistral Small 的得分分別為 70.7% 和 83.3%。

新模型在一些其他高要求測試中也表現出色，包括研究生水平的問答基準測試 GPQA Diamond 和用於編程挑戰的 LiveCodeBench。

Mistral 進一步展示了一些實際使用的案例。

Magistral Medium 展示了自身的編程能力，一次生成輸出的代碼就能模擬出重力、摩擦力。

除了通過 Benchmark 和編程等「必考題」，Magistral 模型還擅長在多種語言中保持高保真推理。它尤其適合用於英語、法語、西班牙語、德語、意大利語、阿拉伯語、俄語、中文等語言的推理。

借助 Le Chat 中的 Flash Answers，Magistral Medium 還能實現比大多數競爭對手多達 10 倍的 token 吞吐量。Mistral 稱，這基本可以實現大規模的實時推理和用戶反饋。

因為以上一系列特性，Mistral 認為 Magistral 非常適合需要長時間思考和更高準確度的通用任務，相比非推理類的大模型，提升更為明顯。

在技術報告中，Mistral 表示 Magistral 應用了自主研發的可擴展強化學習流水線，其並非依賴現有實現和從先前模型中提煉出的強化學習痕跡，而是採用自下而上的方法，完全依賴自己的模型和基礎設施。

在 Magistral 工作中研究人員發現，基於文本的強化學習能夠保持甚至提升多模態理解、指令遵循和函數調用能力。

有趣的是，Magistral 的核心設計原則是使用與用戶相同的語言進行推理。在未經任何處理的數學和編程問題上進行強化學習通常會導致模型在推理過程中出現混合語言。在沒有語言限制的初步實驗中，Mistral 工程人員也經常觀察到混合英語、中文和俄語單詞的輸出。雖然這些輸出是連貫的，但為了避免語言切換，他們在計算對話（由問題、想法、答案組成）的獎勵時，首先通過刪除 LaTeX 內容和代碼塊對這三個部分進行歸一化，然後對每個部分應用 fastText 分類器。如果分類器指示所有三個部分都使用相同的語言，則會額外給予 0.1 的獎勵。

這樣簡單的修改足以使模型能夠緊密跟蹤用戶的語言，最大限度地減少代碼切換，同時保持推理任務的性能。儘管只將原始英語問題翻譯成幾種語言，但我們能觀察到 Magistral 模型能夠成功生成任意語言的思維鏈、系統提示。

Mistral 進一步在系統提示中指定了格式和語言要求，如下圖所示。實驗發現強化學習訓練對這些系統提示非常敏感。例如，系統提示中的「儘可能隨意，儘可能長」部分增加了模型的熵，從而改善了模型的探索能力。