從個人辦公到城市級應用 商湯日日新5.5大模型落地多點開花

2024年,是大模型落地應用落地元年,也是如今在大模型領域大放異彩的商湯科技成立的第10年。

7月5日,商湯發佈日日新5.5大模型體系,其能力全方位升級,混合模態能力大幅提升,流式多模態交互能力對標GPT-4o。

同時商湯大模型與行業結合,推出面向不同行業場景的大模型應用。目前,商湯日日新大模型體系的已有超過3000家企業用戶,廣泛覆蓋互聯網、醫療、金融、編程等眾多垂直行業。

端側模型每台設備9.9包年 讓每人都能用得起大模型

「要推動人工智能超級時刻的到來,大模型需要具備更卓越的思維能力、更自然的交互能力以及更可控的生成能力。同時,唯有不斷深入垂直行業,大模型才能創造出全新應用格局,最終助力‘人工智能+’步入黃金時代。」7月4日,商湯科技董事長兼CEO徐立在2024世界人工智能大會現場如是說。

一天后,商湯發佈了日日新5.5大模型體系。具體來看,日日新5.5大模型體系包括6000億參數基礎模型日日新5.5,性能提升30%;流式多模態交互模型日日新5o,是國內首個所見即所得模型,可進行實時多模態交互和問答;日日新5.5Lite也在端側模型進行了升級。

商湯日日新大模型與行業結合,推出面向不同行業場景的大模型應用。

在他看來,要讓每個人都能用得起大模型離不開端側突破,「因為終端上的計算是分佈式的,而不是集中化的」,徐立表示,如果所有的資源都聚焦在雲端,會帶來推理成本的大幅度增長,推理效率的下降,勢必會帶來服務的不流暢。用好端和雲兩部分的計算機資源,才能成為一種全自然的交互模式。

對此,「日日新5.5」突破的一個重心是在端側上加大了模型的優化,提升了10%的性能精度,除此之外,速度大規模的提升,成本大幅度的下降。首包延遲下降40%,推理效率提升了15%。「

值得注意的是,更新升級後的商湯商量端側大模型,每台使用成本最低僅為每年9.9元。此外還推出端側模型矩陣,包括商量Mini寫作助手、總結助手和百科助手等特化模型。

通過積極推動端側大模型研發,商湯已支持在智能手機、平板電腦、VR一體機、車載電腦、智能檯燈等多種IoT設備部署應用,以極致性價比、高可用性、超低門檻,加速大模型在端側的規模化落地,目前已有超過150位客戶啟動商業對接。

「只有做真正讓大家用得起人工智能的大模型,AI才會進入它的超級時刻。」徐立說。

客戶3000+ 商湯日日新都覆蓋了哪些場景?

目前,商湯的AI能力已經覆蓋到了從個人到B端、G端;從語言到繪圖、影片;從辦公場景到金融醫療乃至城市級別的全場景,客戶超過了3000家。

商湯日日新大模型企業用戶超過3000家,覆蓋互聯網、金融、醫療、編程等眾多垂直行業。

其中,商湯的小浣熊家族是根據「日日新SenseNova」大模型打造的AI Native生產力系列工具,覆蓋軟件開發、數據分析、編程教育等多個場景,旨在通過先進的人工智能技術優化和提升工作效率。家族現已推出代碼小浣熊和辦公小浣熊兩位成員,為十餘萬用戶提供數億次智能輔助服務。

日日新5.5大模型發佈後,商湯小浣熊家族迎來多項更新,代碼小浣熊·個人升級版面世,響應速度提升5倍,代碼精度提升10%,具備更強悍的模型能力、更豐富的插件功能和更完善的數據看板;「辦公小浣熊」全新發佈網頁個人版&小程序版,讓用戶可以在小程序中直接插入並分析處理微信聊天中的文件,更高效、更便捷。

對於代碼小浣熊,徐立表示模型的優化升級僅僅是第一步,還在產品端進行了細緻入微的打磨與調整,「鑒於用戶頻繁使用網頁版代碼工具的習慣,我們迅速響應,在網頁版中及時上線了相應功能,並允許用戶掛載私有化的知識庫,以滿足個人、團隊及企業多樣化的需求。提升個人效率固然重要,但團隊的協同效率更是我們關注的焦點。」

而商湯商量擬人大模型Pro版本自發佈上線後,各行業客戶運營數據耀眼,日均使用時長130分鐘,用戶次日留存率高達50%,人均對話輪數達90次,Pro版本可實現行業領先的角色對話、人設及劇情推動能力,讓智能體更像栩栩如生的人。

從垂直行業來看,商湯大模型已經落地到金融、農業、文旅、醫療、自動駕駛等垂直行業的具體場景中,讓大家體會了AI對生產生活方方面面的幫助。

其中,商湯對於金融場景推出金融智腦Agent全面賦能營銷獲客、財富管理、合規風控等工作,可實現對客戶需求的實時識別和實時響應,同時大幅減低員工培訓時長,綜合提升效率超過100%,運營成本節省80%。

在農業場景,可助力農情分析效率提高5倍以上,農資使用量降低20%,作物單產增加15%;在文旅場景,可將旅行規劃效率提升8倍,票務預定效率提升4.5倍,數據分析效率提升千倍。

在醫療場景,商湯醫療大模型「大醫」利用超300億token的高質量醫學知識數據訓練而成,具備領先的醫療問答能力,可幫助患者在院內實現全流程高效就醫,並在院外化身患者的「隨身AI智慧健康管家」,實現全週期個人健康管理。

當患者感到身體不適時,可諮詢「大醫」輸入主訴症狀,通過多輪智能問答獲取初步分析結果後,再使用智能導診功能快速找到就診醫院的推薦就診科室,實現快速精準就醫。到院後,患者可以利用排隊等候時間完成線上預問診,借助「大醫」的智能問答能力實現患者信息的高效採集,並生成預問診報告,幫助醫生快速、精準地瞭解患者病史,大幅提升問診效率。患者在就診期間往往需要開展各類檢驗檢查,在獲取報告後,患者只需上傳至「大醫」,即可獲得詳細的指標臨床意義解讀,並提示各類健康風險,同時給出智能隨訪、複查建議,幫助用戶遠離潛在風險。

在自動駕駛場景,絕影自動駕駛小巴是作為此次世界人工智能大會唯一承擔接駁任務的自動駕駛巴士亮相本次展會。實際上,商湯絕影投入測試以及實際運營的自動駕駛小巴,累計行駛總里程已超3百萬公里,累計行駛里程穩居行業頭部陣營。

基於商湯科技多傳感器融合感知平台、高精度定位技術、高可靠性的決策規劃控制方案、車載交互方案以及車路協同方案等核心能力,商湯絕影自動駕駛小巴支持較廣的設計行駛區域,可自然舒適的執行跟隨、變道、超車、無保護左轉等操作,可適應於雨霧天氣等複雜環境。

最後,對於城市級別的AI應用,商湯的能力也進行了全面升級。商湯方舟多模態新智平台,基於傳統的城市級AI視覺應用,引入商湯領先的多模態大模型,在商湯方舟平台的基礎上實現了三「需求即指令」、「對話即檢索」、「提示即提優」三方面的全面升級。

目前,商湯助力國內某一線城市12345工單的分類分撥速度提升到10倍以上,並且統一分類標準,1個月就完成超30萬次訴求分撥,平均一天一萬餘次。方舟新智平台可將單分撥員的1個月任務量縮短至1天完成,並且經過二次複核準確率可以達到90%以上,真正實現讓智能分撥的應用實操有效,減輕政務工作壓力,提高效率。

十年磨一劍,商湯賽前分析技術發展趨勢,以雲、邊、端全面覆蓋的全棧大模型產品體系,源源不斷輸出AI「新質生產力」,並持續拓展日日新行業生態,為千行賦能,讓百業「向新」。

文/羅亦丹 編輯 王進雨 校對 付春愔