智能體大規模“上崗”,助力企業全面重構AI基礎設施丨新經濟觀察
封面新聞記者 付文超
大模型加速奔跑,深度應用全面開啟。5月20日,京東雲城市大會在上海順利舉行,京東雲發佈JoyScale AI算力平台、JoyBuild大模型開發計算平台、JoyAgent智能體2.0等九大產品,三大垂直行業一體機,助力企業全面重構AI基礎設施,生成企業專屬數字員工,加速邁向深度應用。

京東集團技術委員會主席、京東雲事業部總裁曹鵬表示,“隨著深度應用加速來臨,數字員工的上崗率將成為衡量一個企業先進性的標準。有多少工作是AI完成的,決定了企業未來能跑多快。新一代Agent成為深度應用的代表,京東雲JoyAgent2.0正在幫助企業生成專業數字員工。同時,大規模應用爆發,也將推動AI基礎設施邁向標準化,AI Infra1.0已經具備。”
據介紹,全面走向深度應用,企業當下需要做好三件事。第一,大模型一體機助力企業快速嚐鮮大模型。一體機作為最快速部署大模型的方式之一,是嚐鮮企業級AI的最佳路徑。京東雲大模型一體機軟硬協同,支援千人規模企業併發需求,實現推理速度提升50%,滿血版、標準版、輕量版為不同規模企業提供靈活選擇,助力企業快速構建企業級AI服務能力,極大降低專業技術門檻。
第二,深度應用全面開啟,智能體重塑AI生產力。雖然“超級應用”還有距離,但聚焦企業端的“深度應用”已奔湧而至,正在加速滲透到需要投入大量人力進行重複勞動的場景。隨著大模型及智能體技術的持續升級,行業正加速邁向深度應用階段。
數據顯示,近三個月京東大模型服務調用量爆髮式增長,環比提升200%;超1.4萬個智能體在京東內部運行,解決超18%的工作內容,外賣員招聘、財務管理等大面積使用;各類大模型應用已深入到京東零售、物流、醫療等細分業務場景,為超50萬商家、超38萬快遞小哥、超5萬副主任以上級別醫生、超2萬采銷運營、超1萬研發提高工作效率和提升服務體驗。
第三,技術棧迎來全面重構 AI基礎設施走向標準化。隨著大模型應用的深入,以CPU為中心的架構在支援AI原生應用上面臨挑戰,需要以GPU為中心重塑基礎設施;此外,面對激增的推理需求,計算資源持續增加,企業需要思考資源投入產出的問題,都指向需要一套AI Native的基礎設施。
據悉,在大模型開發應用方面,JoyBuild支援多類模型的調優開發,內置20餘種開源模型和豐富的數據集,提供100餘種算法和工具鏈。圍繞開源模型蒸餾需求的不斷增加,可以幫助客戶根據自身業務特徵,用自有數據進行大模型的蒸餾,快速開發專屬大模型。
有業內人士認為,大模型浪潮洶湧澎湃,雲服務商將持續深耕技術,以更開放、更協同的生態理念為引領,不斷拓展和深化大模型技術的邊界與應用。