李飛飛丈夫,Salesforce首席科學家髮長文,揭秘AI智能體時代!

新智元報導  

編輯:英智

【新智元導讀】Salesforce首席科學家Silvio Savarese深入解析AI智能體的發展方向,提出從獨立任務執行到多智能體協作,再到企業級全面協調的三階段演進路徑。

就在不久前,科技界目光聚焦於一篇別具深意的文章。其作者正是Salesforce首席科學家、史丹福大學計算機科學兼職教授——Silvio Savarese。

Savarese還有一個令人矚目的身份——「AI教母」李飛飛的丈夫。

Silvio Savarese深入探討了AI智能體的未來發展,提出了三大階段的演變:從獨立任務執行到多智能體協作,再到企業級的全面協調。

智能體將不僅僅是工具,更將成為提升工作效能和創造力的強大夥伴。

同時,他還深入思考了在這一激動人心的發展進程中,人類所應扮演的角色與承擔的責任。

本文在不改變原文大意的情況下,編譯如下:

最近,通過推出Agentforce,Salesforce正在推動企業邁向一個全新的AI賦能時代。

步入AI的第三波浪潮,借助AI智能體,人們工作起來會更有能力、更覺有趣、更富創造力。

從人才招聘到醫療保健領域,AI與人類在各行各業的合作日益廣泛。這種協作不僅能快速滿足大規模的需求,而且在多數情況下,比單純的人工操作更加精準。

雖然需要些時間,但智能體無疑會在多方面優化我們的工作:提升生產力與效率,輔助戰略決策,我堅信,它還能提高整體工作滿意度。

無論普通員工還是高管,幾乎所有企業人員都能在調配人力的同時,指揮數字勞動力。

在這個時代的發展進程中,信任和問責製至關重要。

其演進分為三個階段:首先,專業智能體負責獨立任務;接著,多智能體系統實現無縫協作;最後,企業級協調系統將徹底改變企業的運作模式。

Salesforce的AI研究團隊肩負著塑造企業AI未來的使命。接下來,為大家講講我們對智能體發展的展望,以及人類在此過程中需扮演的角色 。

AI智能體的演變:從規則到推理

LLM是經過訓練的深度學習模型,能理解文本還能生成文本。

AI智能體的發展和機器學習的進步密切相關。早期傳統的基於規則的系統,比如機器人過程自動化(RPA),能精準完成一系列任務,但在應對變化時就容易出現問題。這類早期系統需要大量技術支持,還要找專業人員諮詢。

過去幾十年,機器處理信息的方式有了很大變化,從原來死板的自動化系統,變成了現在靈活、適應能力強又高效的學習系統。

現在,像Agentforce這樣的現代平台造出的智能體,能明白具體情況,適應新變化,還能做各種任務。

而未來的發展方向更值得期待:我們將會有借助多智能體推理的自適應智能體。

這種智能體可以從周圍環境中學到東西,在實際使用中不斷進步,能和人類、企業客戶、合作夥伴、供應商一起工作。甚至,還能跟越來越貼近人們生活的個性化AI助手配合。

現在,我們才剛開始朝著企業AI智能體發展的三個階段邁進。

企業智能體的三個階段

就好比音樂從簡單的單音旋律,逐漸演變成複雜美妙的交響樂。AI智能體也在不斷進步,從單個獨自工作,變為多個智能體協同配合。

每個階段都建立在上一階段的基礎上,為企業創造出更加豐富、更有層次的互動。

第一階段:單個AI專家智能體

第一階段,專家智能體聚焦特定行業,能出色完成既定任務。這給日常關鍵的商業運作帶來了前所未有的效率和準確性。這些智能體是企業應用AI的基礎。它們處理零散任務又穩又快,極大改變了部門的工作流程。

它們還能將AI的最新成果用於工作。比如,精準預測最佳行動方案,根據每位客戶的偏好和行為,給出高度個性化的產品推薦。此外,不管是面向客戶、服務還是銷售代表(人和智能體都是如此),都能生成高質量的指導意見、營銷文案和信函。

例如,在商業領域,智能體徹底改變了庫存和賬戶管理。

智能體可不只做簡單的庫存檢查,還會主動監控多個地點的庫存狀況,預測季節性需求變化,實時生成賬戶摘要,從中找出不尋常的模式或潛在機會。

過去,人工分析這些任務要花好幾個小時,現在智能體幾秒鍾就能搞掂,而且分析得更準、更透徹。這給零售客戶帶來了更優質、更個性化,甚至是神奇的體驗。

服務運營也發生了類似轉變。這些智能體不光能做基本的賬單彙總,還會分析客戶互動模式,自動對服務請求分類、排序,進而得出有關客戶需求的預測性洞察。

智能體能夠發現客戶行為中的趨勢,這些趨勢可能意味著客戶滿意度有問題,或者存在業務拓展機會。如此一來,就為服務團隊提供了實用信息,而不只是一堆原始數據。

如此一來,客戶服務變得輕鬆又流暢。終端客戶幾乎察覺不到服務的存在——很多時候,他們還沒意識到有問題,問題就已經解決了。

金融服務領域,智能體大大提高了客戶服務效率。

確認爭議時,智能體能分析交易歷史,識別潛在的欺詐活動,還會自動啟動相關安全協議。做財務規劃時,智能體整合市場數據、客戶個人歷史和各類經濟指標,生成全面的分析報告。

合理使用這些智能體,企業後台的運作效率會大幅提升,消費者也能體驗更先進的私人銀行、投資指導和財富管理服務。

第二階段:復合智能體——無縫協作者

這一階段,公司內部的專家智能體開始協同合作,朝著一個共同的商業目標努力。

「協調者智能體」負責組織多個專家智能體協同工作。這就好比餐廳的總經理,要把出色的接待員、服務員、經理、廚師、備餐員和配送員組織起來,大家齊心協力,贏得那個夢寐以求的米芝蓮星級。

在複雜的商業場景中,復合智能體的表現是怎樣的呢?我們來看看這個客戶服務場景。

有一位忠誠的零售客戶,想要更換一款過季商品的尺碼。這時,多個智能體在背後默默協作。

首先,有一名前線服務代表負責處理客戶最初的詢問。接著,一名庫存專家會去檢查各個地方的產品庫存情況。同時,物流智能體開始計算運輸選項和時間安排。還有賬單專家,認真審查客戶的賬戶歷史和支付選項。

最關鍵的是「協調者智能體」,它把前面這些智能體的工作成果彙總到一起,生成一個有條理、高效率,既符合品牌形象又貼合客戶需求的回覆。這些回覆會交給前線工作人員,他們審核、完善後,再分享給客戶。

當多智能體方法實施得當,「協調者智能體」為人類協調者提供服務時,能帶來諸多由AI驅動的顯著優勢:

  • 可靠性提升:系統借助專門化、可靠的智能體聚焦特定領域。由於每個智能體的工作範圍較窄,這不僅提升了可靠性,還減少了幻覺現象。

  • 安全性增強:採用分佈式處理方式,把敏感數據的處理交給特定智能體,從而增強了安全性。

  • 可擴展性強:隨著需求改變,生態系統能無縫擴展。組織可不斷增添新的專門化智能體,輕鬆拓展功能。這或許是其中最重要的優勢。

第三階段:集成式智能體——企業協調者

在理想的最終階段,跨組織邊界的複雜智能體對智能體(A2A)交互出現了,這開創了全新的商業模式。

除了傳統的企業對企業(B2B)、企業對消費者(B2C)模式外,還湧現出企業對智能體(B2A),甚至企業對智能體再到消費者(B2A2C)的交互形式。在這些新模式中,AI智能體成了工作和交易的中介。

來看一個簡單的汽車租賃場景:客戶的個人AI智能體與租賃公司的商業AI智能體進行談判。

客戶智能體一心爭取更划算的價格和更多價值,租賃公司智能體則試圖靠附加服務多賺錢。但租賃公司的智能體得拿捏好分寸,推銷要積極,又不能太激進,以防生意被競爭對手搶走。

這些智能體之間的交互,需要依據複雜的博弈理論。這要求它們具備高超的談判技巧,遵循特定的協議,能夠在不確定的情況下管理風險,有可靠的信任驗證機制,還要能巧妙地化解衝突。

現在,想像一下複雜的企業流程。

就拿供應鏈優化和客戶協調這些工作來說,無論你是消費者,還是企業員工,集成式AI能讓你擁有一個智能助手。這個助手可以根據你的需求和期望,處理複雜的協調工作,開展有價值的協作。

但是,要實現這個目標,我們人類還有很多工作要做。

必要條件:信任與責任

當我們部署愈發複雜的智能體系統時,每一項決策都必須遵循信任與責任這兩個基本原則。

構建信任

在智能體時代,信任的內涵遠不止於防範有害內容、偏見和幻覺。

Salesforce近期的研究表明,61%的客戶覺得,隨著AI的發展,可信度變得比以往任何時候都更加重要。我們正步入一個全新領域,在這個領域中,組織需要對人類與AI的共生關係抱有深度信任。

這種信任基於以下要素。首先是準確性和邊界:AI智能體必須在明確的範圍里運行,同時保持準確。

智能體的自我意識同樣關鍵。就像一個值得敬重的同事,AI智能體得清楚自己的能力邊界,明白什麼時候該向人類尋求幫助。這就需要一套複雜的交接協議,保證AI和人類能無縫配合。

比如,我們的AI研究團隊正在研究訓練方法,教AI智能體遇到解決不了的難題時,把不確定的地方標出來,接著去尋求幫助。只要訓練得當,AI就會知道什麼時候不能瞎猜,而是向人類求助。

對於多智能體系統,我們還需要全球公認和廣泛採用的協議。有了這些協議,協調者智能體才能安全、合乎道德地與其他企業的智能體交流、協商與合作,實現雙方共同利益。這種互動得快速、高效,還得公平。

最後,隨著AI智能體越來越多,我們的安全措施也得增強。

和其他技術一樣,一些人也會利用AI搞破壞。他們可能會訓練AI蠕蟲來泄露數據,或者嘗試控制其他AI智能體,曝光客戶的私人數據。

強化保護、做好隱私控制以及持續進行監控,是維持信任的關鍵。只有建立了信任,AI才能從工具變成和我們一起成長的業務夥伴。

確保問責製

當組織開始部署能每秒做出數千個決策的AI智能體時,需要建立明確的責任和監督框架。

這樣一來,一旦出現問題,我們就能有應對的辦法。這要有一套周全的方案。下面講講負責監督智能體的管理團隊該怎麼做。

清晰的責任鏈條:AI 智能體做出重要決策時,得清楚到底誰來負責,不能有絲毫含糊。這可能意味著建立新的角色,比如「AI運維官」,他們不僅有權監管智能體的部署工作,而且在問題發生時也承擔責任。

我們需要一個強大的系統,在信息不完整、有偏見、出現幻覺或者產生有害輸出之前,就把問題查出來並解決掉。

這可不只是做簡單的安全檢查,還要持續監控智能體做出的決策,具備實時干預的能力,而且要有一套完整的審計追蹤機制。

研究團隊最近在檢索增強生成(RAG)上有了很大的進展,這讓AI系統獲取和驗證信息的方式有了很大改善。這些新成果能讓我們快速評估和調整AI系統,確保它給出的結果既準確又可靠。

要製定一套流程,讓人類能對智能體進行監督和干預。不能只局限於「human-in-the-loop」這個簡單概念,要設計出更複雜的框架,明確人類在何時、以何種方式介入智能體的決策。

在常規任務中,智能體能充分發揮自主性,而遇到重大決策時,人類的判斷仍能起到關鍵作用 。

一旦出現錯誤,我們要有一套結構化應對方法。這不僅包含技術層面的回滾程序,還得明確如何與客戶溝通、採取哪些補救措施,以及製定系統性改進的協議,以防止類似問題的發生。

目前,做出商業決策的自主AI智能體面臨著責任界定的問題,現有的監管環境並不適用於它們。

我們需要和監管機構合作,製定合適的治理結構,明確AI智能體的責任,建立全新的法律和合規框架。

展望未來:科學方法與企業創新

要想部署真正有效的AI系統,企業高層要有長遠眼光,把這些技術進步運用到實際應用中。

企業在AI應用上是否成功,不只看部署了多少AI智能體,或者實施速度有多快。關鍵在於企業領導和技術專家的精心規劃,讓AI與現有的工作流程、業務過程以及人類的工作偏好完美融合。

Salesforce在企業CRM領域摸爬滾打多年,經驗豐富,很懂業務邏輯優化。我們把這些經驗和知識融入到 Agentforce的部署策略里。系統不僅功能強大,在滿足客戶業務需求和運營人員需求方面,也做到了可靠又負責。

未來,人類和AI不再相互對立,而是攜手合作,各展所長。隨著Agentforce發佈,智能體已經成為提升工作效能的強大助力,讓團隊完成以前辦不到的任務。

開始這一轉型的時機就是現在,就像每一次突破性實驗都始於假設一樣,每次成功的AI轉型也都是從一個願景開始,到最終驗證成真!

參考資料:

https://x.com/silviocinguetta/status/1877166654464893035

The Agentic AI Era: After the Dawn, Here’s What to Expect