像逛超市一樣選購算力資源 上海電信公共算力服務落地上海對外經貿大學
作者/ IT時報記者 孫永會
編輯/ 錢立富 孫妍
「今天天氣預報可能有雨,出門記得帶傘哦。」「充實忙碌的一天結束啦,早點睡覺吧,祝你有個好夢。」和生活中常見的喚醒式機器人不同,眼前的小型人形多模態智能陪伴機器人會主動關心並陪伴使用者。
在日前舉行的中國國際大學生創新大賽(2024)總決賽上,上海對外經貿大學統計與信息學院的參賽項目「智械伴侶——首創多模態智能交互桌面機器人」(以下簡稱「智械伴侶」項目)獲高教主賽道研究生創意組銀獎。
「我們想打造一款以‘機器人+AI’為科技內核,融合新興潮流與傳統文化形象的智能夥伴,比如遊戲角色、國潮動畫形象等,以讓喜愛的故事人物走出屏幕,真實陪伴在使用者身邊。」上海對外經貿大學「智械伴侶」項目負責人黃斌介紹道,因為涉及多所高校之間的跨學科合作,項目成員包括哈爾濱工業大學、清華大學等高校的研究生,會用到端雲協同多模態交互技術,所以選擇上海電信算力服務,團隊能根據項目需求靈活調整算力資源。
滿足彈性算力需求
隨著人工智能、大數據、雲計算等前沿技術的蓬勃發展,算力已成為數字世界的核心能源,也成為競爭的新焦點。企業、高校等主體對算力的需求不斷增長,但由於技術、資金等因素,也面臨著一定的挑戰。
以上海對外經貿大學統計與信息學院為例,該學院在大數據、人工智能等領域的科研、教學以及創新項目等方面都有算力需求,尤其是機器學習等場景。隨著項目的增多、複雜性的提升,算力需求持續增加。
曆時一年,「智械伴侶」項目完成了三代樣機的迭代,歷經了校賽、市賽、國賽,整體週期長。用項目帶隊教師孫強的話說,租用算力是為了讓團隊能更好地訓練,以展示出更佳的效果。
據黃斌介紹,學院以往所面臨的痛點、難點,以及對未來的考量主要有以下幾點:一是算力需求是彈性的,比如大模型的訓練階段、多個項目併發時需要更多計算資源,在推理階段則相對較少;二是算力使用有時是急需的,對應顯卡的成本、規格選擇、購買限制、使用方式和租賃方式,往往也會形成製約。再如算力的分散性、驅動器不兼容、高峰低谷算力的不足與閑置的有效平衡調度、運維等問題,而在算力在對外提供接口服務時,因為內部網絡原因會增加一定的延遲。
基於上述考慮,該校決定尋找解決算力需求問題的新路徑。自此,一段始於2023年初夏的合作之旅開啟。
一次選購 按需取用
高校與服務商的協同分工往往如此,前者聚焦科研、教學和創新項目的應用層面,後者則提供技術支持、網絡基礎設施和算力資源的動態管理,以確保算力的穩定性和安全性。不過,合作過程需要不斷打磨,「合作初期,技術對接、服務定製化等方面皆需要進行有效溝通。」據天翼雲能力運營中心解決方案中心解決方案工程師朱程傑介紹,項目組通過建立售前支撐培訓團隊和售後運維保障團隊解決難題。
「這項服務的使用是階段性的,有緊急情況的時候就用一部分,不用的時候資源也不能浪費。」孫強坦承,選擇租賃彈性算力方案後,學校能夠對一些緊急和短期項目進行快速推進和驗證,從而減少資源閑置,降低成本。在他看來,彈性算力方案由專業的服務提供管理,意味著校方可以減少在硬件維護和升級上的投入,專注於科研和教學工作。此外,該方案在「智械伴侶」項目中解決瞭解決了本校及合作院校的學生出校比賽時的網絡延遲問題,讓算力的端雲協同呈現出更好的效果。
據悉,較之於校園網絡,公共算力服務為該團隊降低了40%~50%的網絡延遲。
讓算力不閑置
類似上海對外經貿大學的選購方式還只是開始,今後,像逛超市般選購算力資源已不再是想像中的圖景。
對於各家雲/算力服務商來說,讓算力像水電一樣,作為公共服務隨取所用是追求的目標。但在邏輯層面,算力使用的邏輯和水電使用的邏輯是相反的,水屬於分散式輸出,從中心到每個家庭,而算力則是上傳算力任務到雲端。因此,目標的實現仍然面臨著挑戰。
2022年7月,上海電信在全國電信運營商中率先發佈公共算力服務。2024年1月,上海電信宣佈點亮「大規模算力集群暨人工智能公共算力服務平台」。
為進一步解決中小企業和相關單位獲取算力資源時所面臨的挑戰,如資源分散、兼容性問題以及專業軟件的搜索難度等,2024年11月,上海電信正式推出公共算力服務門戶——算力超市,這是同時面向算力供應商、中小企業和公眾用戶算力需求市場的算力交易門戶,並實施全新的「一戶一卡」免費體驗計劃。
在功能方面,算力超市彙聚各類算力服務,支持算力在線磋商、算力交易,以公共惠普的算力供給,算、存、運一體的綜合算力服務模式,促進算力資源有效疏通,此外也支持廣大算力供應商入駐。值得一提的是,算力超市的算力規格多樣,各品牌算力資源,多種算力規格,高校或者企業可以一站搜索所需算力資源,輕鬆實現算力資源選購、下單等操作。
「算力超市」是公共算力服務不斷延展的成果。現階段,上海對外經貿大學統計與信息學院已經建立了具有一定規模的算力基礎設施和算力分配機制,即根據項目需求、優先級和資源情況,進行動態調整算力資源。在後續的合作中,校方希望能夠深化算力租賃合作的領域,共同探索新的技術和應用層面。與此同時,期望能夠用更好的形式利用算力資源,從而讓項目動起來,讓資源不閑置。
排版/ 潘璐
圖片/ pixabay 上海電信
來源/《IT時報》公眾號vittimes