加拿大初創公司推出 Command A 輕量級 AI 模型，號稱僅需兩塊英偉達 A100 / H100 GPU 即可部署

IT之家 3 月 14 日消息，加拿大 AI 初創公司 Cohere 昨日發佈了一款名為「Command A」的 AI 模型，該模型主打輕量化應用，號稱只需要兩塊英偉達 A100 或 H100 GPU 即可輕鬆部署，號稱「表現能和 GPT-4o 相媲美」，實現「用最少的硬件發揮最大的性能」。

Cohere 表示，Command A 專門為中小型企業環境設計，其支持 256k 的上下文長度和 23 種語言，作為比較，其他競爭對手的「同類模型」需要 32 塊 GPU 才能部署。

在性能測試中，Command A 最快每秒可以輸出 156 個 Token，據稱比 GPT-4o 快 1.75 倍。而在指令追蹤、SQL、代理程序和工具任務的基準測試上，Command A 也表現出色。

Cohere 援引相應性能數據，聲稱業界的大語言模型如果「規模過大」，反而在輸出結果時可能會出現嚴重的延遲問題；如果只是想快速得到正確答案，Command A 相對是個不錯的選擇。

目前，Cohere 已將相應 Command A 發佈在 Hugging Face 平台，對學術界開放使用，未來還會登陸其他雲服務平台。

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。