零代碼基礎也能複刻!大模型化身「AI售前助手」,百頁萬字標書秒速解讀

基爾西 發自 凹非寺

量子位 | 公眾號 QbitAI

大模型正式上崗,化身AI售前助手,已經開始拯救IT售前人了!

在浪潮信息內部,一款名為「元小智」的AI助手,已經成為了員工們的得力助手。

不僅能幾秒鍾讀完上百頁的招標文件,產品資料問答、信息比對、查詢檢索等工作也都得心應手。

過去,人工需要幾天才能完成的任務,只要幾分鐘就能搞掂了。

而且模型微調、應用開發過程全程零代碼,售前團隊1人1月即可完成,工作效率UP UP。

售前工作困難重重

售前是IT行業解決方案的構建者,所需具備的技能自然也多種多樣,需要「三頭六臂」的全能選手才能勝任——

不僅針對IT本專業需要具備紮實的基礎知識,還要有良好的市場敏感度、快速學習能力和強大的溝通技巧。

而在IT行業的銷售中,招投標又是一種重要形式,因此售前人員還要向投標工作中投入大量精力。

他們要先完成對招標文件的解讀分析,精準理解並解答招標文件的技術需求,並在此基礎上撰寫出符合招標要求的文件。

但交付的時間,往往又極為有限,不僅如此,標書的製作還面臨著多重困難。

首先,招標文件內容冗長,而且充滿了細節,導致標書材料分析耗時,且關鍵信息容易遺漏

但在需求一側,招投標業務時間窗口十分緊迫,同時又要嚴格按照業務規則執行,容錯率低,對文件內容的精準性要求極高。

這對業務人員的綜合經驗和技術水平,是一項不小的考驗。

同時,他們還需要對公司產品、技術白皮書、標書、解決方案等瞭如指掌。

但是這些產品及方案材料更新速度非常快,又分散在不同部門,信息整合與查閱工作又是一項新的挑戰

不難看出,僅標書這一項工作就足以讓售前人員焦頭爛額,更不必說還有一系列其他工作。

面對重重困難,人們想到了讓機器替代一部分人工,減輕售前人員的壓力——

基於大模型開發的AI助手,在分析處理長文本方面有著得天獨厚的優勢。

但實際操作起來,很快就又發現了新的問題。

首先,無論是人還是大模型,想要勝任售前崗位,對自身產品信息的瞭解都是不可或缺的。

對於大模型而言,瞭解的方式就是建立專用知識庫。

一家大型IT公司的全業務線可能包含近千款產品,大到產品迭代型號,小到插槽數量、板卡規格,這些信息都要精準無誤,才能讓大模型幫助售前完成繁重的產品信息查閱工作。

但這些信息內容繁雜,且數據本身結構化程度低,提取工作複雜,導致專用知識庫建設並非易事。

退一步講,即便有了這樣的知識庫,基礎模型+RAG的模式也不足以滿足工作中的專業能力需求——

售前需要撰寫的標書文件具有十分專業的行文格式、專業術語,雖然這種模式在問答任務中有一定準確率,但是並不代表理解了招投標工作的業務邏輯。

解決這個問題的辦法便是微調,但優質微調數據是一大難題,並且需要開發人員具備豐富的大模型微調經驗,研發週期長、試錯成本高

另外,招投標文件包含大量企業隱私數據,必須確保數據絕對安全,因而不能上傳雲端利用公共大模型進行訓練推理,也就是說,企業大模型必須進行本地化私有部署。

這些要求疊加在一起,涉及多環節、工具,使得這樣的模型開發本就十分困難且週期漫長。

雖然售前人員最瞭解業務場景,對這些痛點也是如數家珍,但他們並不具有相應的代碼開發能力,更不用說定製化的應用開發了。

「元小智」拯救售前人

不過好消息是,現在大模型應用開發已經沒有那麼複雜了——即使沒有技術出身,只要明確需求,簡單學習之後也能上手。

在浪潮信息內部,售前部門就已經利用大模型開發平台工具開發出了售前AI助理「元小智」,針對售前工作中的痛點各個擊破,將員工從龐雜的工作中解放了出來。

「元小智」可以一鍵處理招標文件,對招標文件中的重要信息進行全面且準確的解讀。

根據項目需求,「元小智」可以高效識別數萬字上百頁的招標文件,招標關鍵信息的識別準確率達到85%,秒級提取客戶核心需求。

過去需要幾天的招標文件分析工作,幾分鐘就能完成,大幅提升了業務人員的工作效率,縮短時間窗口。

「元小智」還憑藉智能問答功能,成為了浪潮信息售前專屬的「百科全書」,輔助產品信息查閱與專業內容生產。

通過該功能,售前人員快速查閱並生成浪潮信息全系列在售產品及方案的相關內容,生成對應的產品優勢、核心參數等支撐信息,免去了售前人員在海量產品文件中逐一查閱的繁瑣過程。

知己知彼才能百戰不殆,除了自身產品體系之外,瞭解同類產品方能有的放矢地製定策略,在競爭中取得優勢。

針對招標核心信息,「元小智」可以通過網絡檢索功能查詢同類產品情況,輔助售前人員快速瞭解產品信息,節約了至少一半的分析時間,整體將售前的投標工作提速3-5倍。

而且聯網檢索有需要時才會調用,並與企業數據庫隔離,數據安全有保障。

在「元小智」的背後,是浪潮信息的企業大模型開發平台——元腦企智EPAI(EnterprisePlatformofAI)。

其中的數據處理工具能夠自動解析結構化數據(如表格),並將其轉化為標準格式的知識庫條目;針對非結構化數據(如純文本信息),元腦企智EPAI則能夠自動提取有用信息並進行高效存儲。

浪潮信息售前團隊使用元腦企智EPAI實現了數據的自動化收集、整理、清洗和索引,從1500+的pdf、docx、doc、xls等多種格式在內的業務資料、企業產品信息與方案文件中抽取數據,構建起了8大業務線全部在售產品的知識庫。

同時有效融合RAG技術,將繁雜的企業知識成功轉換為大模型「最強外掛」。

對於大模型微調,元腦企智EPAI也提供了全鏈路數據治理工具,可以從種類多樣、場景複雜、規模龐大的招投標文件、產品信息、行業報告中,自動抽取生成微調數據。

利用元腦企智EPAI平台的評判大模型,針對生成的每一條微調數據進行自動打分,剔除低質量數據,通過格式過濾進一步提升微調數據質量,減少數據篩選和處理的時間和成本。

如此反復多次,最終形成了數十萬條高質量微調數據,利用元腦企智EPAI平台的零代碼微調工具進行模型微調,多次迭代後成功實現模型專業能力提升,構建起了符合業務需求的專用大模型。

元腦企智EPAI還提供了多種應用開發工具,可零代碼快捷開發本地應用,平台支持多種參數的設置、修改,同時提供 API 調用、chat頁面對話等多種交互方式,實現開箱即用。

同時,元腦企智EPAI及利用其打造的大模型應用可完全本地化部署,並配有多種安全技術,數據安全能夠得到保障。

打造自己的「元小智」

「元小智」雖然是浪潮信息的內部應用,但是借助其背後的元腦企智EPAI提供的數據處理工具、零代碼微調工具、知識庫檢索工具等,其他企業也可以建立起自己的「元小智」。

不僅如此,元腦企智EPAI平台更是加速大模型落地的有效賦能工具,提供了一套更完整的企業大模型落地解決方案。

元腦企智EPAI平台提供了上億條基礎知識數據,同時還包含了自動化的數據處理工具,可以幫助用戶整理行業數據和專業數據,生成高質量的微調數據和行業/企業知識庫,進而打造企業專屬數據資產。

有優質的基礎+行業+企業數據作為支撐,大模型生成內容的準確性和可靠性就有了保證,大模型落地的最大痛點——幻覺問題將大幅縮減。

同時,結合RAG技術,元腦企智EPAI可以解決企業知識庫更新頻率高但大模型微調耗時長、頻率低的矛盾,保證模型能夠及時獲得處理最新知識的能力。

另一方面,元腦企智EPAI還提供了高效的微調工具,支持千億參數模型面向產業知識的快速再學習,並讓模型具備百萬Token的長文檔處理能力,解決窗口長度不足的問題,快速打造領域大模型。

而且元腦企智EPAI支持包括CPU和各種GPU在內的多元算力,以及各種主流開源、閉源模型,適配快,遷移成本低,為企業提供了豐富的模型和算力選擇。

此外,企業用戶最擔心的數據安全問題,元腦企智EPAI也提供了堅實保障,通過權限管理、數據加密、內容審查等多種技術手段,確保數據和模型安全,做到了隱私信息不泄露。

「元小智」就是浪潮信息打下的一個很好的樣板,通過「元小智」,我們可以見微知著,看到其背後元腦企智EPAI平台的強大能力——

從耗時的招標文件分析,到繁瑣的產品信息查詢,再到專業的標書撰寫……這些曾經讓售前人員頭疼不已的難題,現在都能夠得到高效、準確的解決。

借助元腦企智EPAI這樣的企業大模型開發平台,即使是非技術背景的售前團隊,也能夠快速構建起適合自身需求的AI助手,技術門檻大大降低

可以說,元腦企智EPAI,使大模型落地成為了可觸可及的現實。