文心一言多項指標“遙遙領先” 清華權威報導公佈

最近,由清華大學基礎模型研究中心聯合中關村實驗室研製的SuperBench大模型綜合能力評測框架,正式對外發佈2024年3月版《SuperBench大模型綜合能力評測報告》。評測共包含了14個海內外具有代表性的模型,結果顯示:文心一言4.0表現亮眼,與國際一流模型水平接近,且差距已經逐漸縮小,名副其實為國內頭部模型。

例如在人類對齊能力評測中,文心一言4.0表現優異,位居國內第一,其中在中文推理、中文語言等評測上,文心一言遙遙領先,和其他模型拉開明顯差距,中文理解上,文心一言4.0領先優勢明顯,領先第二名GLM-4 0.41分,GPT-4系列模型表現較差,排在中下遊,並且和第一名文心一言4.0分差超過1分。

在語義理解中的數學能力上,文心一言4.0與Claude-3並列全球第一; GPT-4系列模型位列第四五,其他模型得分在55分附近較為集中,明顯落後第一梯隊;而在語義理解中的閱讀理解能力上,文心一言4.0超過GPT-4 Turbo、Claude-3以及GLM-4拿下榜首。

而在企業選擇大模型最看重的安全性評測上,國內模型文心一言4.0表現亮眼,力壓國際一流模型GPT-4系列模型和Claude-3拿下最高分(89.1分),Claude-3僅列第四。

值得注意的是,文心一言不僅在技術能力上過硬,在應用落地上也是一路領先。自去年3月16日文心一言首發至今,用戶數已突破2億,每天API調用量也突破了2億。

推廣