端側 AI 崛起：Mistral 發佈 Ministral 3B / 8B，「全球最好的邊緣模型」

IT之家 10 月 17 日消息，Mistral 公司最新推出了 Ministral 3B 和 Ministral 8B 兩款 AI 模型，並不需要連接雲服務器，重點提高筆記本電腦和智能手機等設備的本地化 AI 體驗，官方聲稱是「世界上最好的邊緣模型」。

Mistral 公司表示越來越多的企業希望能夠在個人設備上運行 AI 模型，一方面確保安全的數據處理，另一方面也提高響應速度。

上述兩個模型可在沒有互聯網接入的情況下，執行翻譯服務、本地分析和機器人等多項服務。

這兩個 AI 模型的上下文窗口均為 128K，相當於一次可以處理 50 頁文檔。

Ministral 8B 的價格為每百萬個 tokens 售價 0.1 美元，而 3B 版本則為 0.04 美元，適合小規模操作或初創開發者。Ministral 8B 採用了特殊的交錯滑動窗口注意力機制，這種設計可以在推理時更快且節省內存。IT之家附上相關性能圖表如下：

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。