大模型落地,要追求極致的務實主義

圖片系AI生成圖片系AI生成

「能夠像人類一樣操作電腦。」這一堪稱革命性的新技能來自10月23日Anthropic最新推出的升級版Claude 3.5 Sonnet模型,據介紹該模型不僅各項性能指標上取得顯著提升,並在多項測評中超過OpenAI的GPT-4o、Google的Gemini 1.5 Pro,以及自家的Claude 3 Opus。

目前,升級版Claude 3.5 Sonnet已經在Amazon Bedrock平台可用,與此同時,新模型Claude 3.5 Haiku發佈,預計將於本月晚些時候在平台上推出。Anthropic的產品經理Michael Gerstenhaber曾表示,Anthropic正致力於每隔幾個月大幅度改進性能、速度和成本之間的權衡曲線。此前,今年3月Claude 3系列發佈、6月Claude 3.5 Sonnet發佈時,都是在Amazon Bedrock上同步上線。這意味著當客戶用上Amazon Bedrock服務時就已經拿到了最領先AI大模型的鑰匙。

Amazon Bedrock已經成為過去十年中增長最快的亞馬遜雲科技服務之一。這也反映出亞馬遜提供多種領先基礎模型和廣泛功能的策略正在引起客戶的共鳴,目前數以萬計的活躍客戶正在使用Amazon Bedrock,包括Intuit、豐田和紐約證券交易所。

當越來越多的客戶開始嘗試生成式AI,這場市場競速,就已經不單單是看誰能夠最快構建最領先的大模型應用,而是誰能更好滿足客戶需要。

沒有一個大模型可以一統天下

以往觀點認為,生成式AI的競賽是看誰能夠最快構建最領先的大模型及應用。

能做到這一點,不但要有技術實力更要有持續燒錢的魄力。為此你能看到,很多跑得快的大模型企業基本都會搭上擁有強大算力的雲計算大佬的「快車」 ,為了「慳錢」。

投行Jefferies分析師Brent Thill在一份報告中援引亞馬遜雲科技的數據顯示,只有3%的企業只使用一個語言模型,34%的企業使用兩個,41%的企業使用三個,22%的企業使用四個。

回頭再來看,這與Amazon Bedrock亮相之初的市場預判基本吻合:沒有一個模型可以適用於所有場景,企業需要各種模型來解決其在實際業務中遇到的問題。

2023年之後,Amazon Bedrock便持續接入Anthropic、Stability AI、AI21 Labs、Meta、Cohere、Mixtral等第三方主流AI廠商的四十幾款領先基礎大模型服務,並推出一系列配套功能,以便企業在實現簡化開發的同時確保隱私性和安全性。

極致的技術務實主義

但並非所有企業都能快速跟上時代步伐,與客戶的交流中,亞馬遜雲科技頻繁發現一件事情:在尋找合適的大模型過程中投入的試錯時間、資源等各方面成本頗高。

一位中國企業CIO表達了一個觀點,就目前企業對生成式AI的嘗試,還需要時間持續解決。他的建議是,一是低成本試錯的能力,如果成本太高就等不到場景跑出來;二是長期系統性的思考能力,一定要把技術結合到業務流程和場景中。

亞馬遜雲科技大中華區產品總經理陳曉建近期就生成式AI價值化分享表示,企業應該將注意力集中在少數的幾個能實現業務價值的Use Case(用例)上,而不是先花太多時間深入技術細節。

而Amazon Bedrock就是降低試錯成本最好的「雙向門」:在Bedrock上,模型和場景不匹配,就退出去,重選一個。

Amazon Bedrock已經成為客戶使用基礎模型構建和擴展生成式AI應用程序的最簡單方法,降低了所有開發者的使用門檻。這種優勢正在不同行業、不同場景上體現出來。

全球最大的對衝基金橋水基金(Bridgewater Associates)很早就開始涉足生成式AI應用。橋水基金長達50年的全球市場投資經驗,使其深入理解了市場運作的核心驅動因素,並將這些知識編寫成複雜的專家系統,通過每天接收並處理大量外部數據,生成市場觀點。隨著AI技術的日益成熟,橋水基金意識到,通過AI和機器學習可以進一步優化這一過程。

2023年,在聯席首席投資官Greg Jensen的主導下,橋水基金構建了全新投資邏輯生成系統人工智能投資助手(AIA)。以前需要人工初步處理的問題可以交給AIA全面處理,然後再進行人工審查。整體來說,分析師可以更聚焦精力處理20%有難度的問題,剩下80%的基礎問題交給AIA智能投資助手處理,節省了大量時間。

在構建AI投資助手的過程中,Amazon Bedrock成為了一個至關重要的工具。通過Amazon Bedrock中不同模型的分析特性,靈活調用,以適應從基礎的推理任務到更高階的市場分析等不同場景。今年7月,橋水基金做出了新的嘗試,發行了一支完全由AI操盤的規模20億美金的基金。

另一個案例是智能語音助手服務商Poly AI,主要服務各行各業的企業客服中心,包括旅遊、住宿、零售、金融服務等,比如Poly AI的AI語音客服可以解答賬戶管理問題、安排交貨、零售比價等。

Poly AI的AI語音客服可以模仿人工客服人員,有助於減少用戶等待時間並提高用戶滿意度和保留率,並針對不同企業客戶的行業屬性和場景需求進行個性化定製。這種定製不僅體現在語音助手的內容上,更深入到語調、語速等細節,根據目標群體的特性調整交流方式、專業表述的程度、熱情程度、關切程度等,比如在針對老年群體或教育的場景會調整語氣、語調、語速、音色,確保客戶體驗的最佳化。

Poly AI還在基於Amazon SageMaker平台進行大規模語音複製和合成算法的訓練。這個過程中,Poly AI為企業構建的解決方案可以將企業品牌個性融入其中,更有識別度,使語音助手不僅僅是一個工具。

今年8月,Poly AI宣佈與亞馬遜雲科技達成戰略合作協議,增強了Poly AI在大模型和生成式AI上的應用深度。

初創公司NinjaTech AI是一家智能體(Agent)系統開發商。該公司面臨的現實挑戰之一是算力問題。由於英偉達H100的高成本和短缺,NinjaTech AI選擇了亞馬遜雲科技自研的兩款AI芯片——Trainium和Inferentia。經過雙方努力和協作,NinjaTech AI目前基於亞馬遜自研芯片成功訓練AI模型,並構建AI智能體。與傳統GPU解決方案相比,NinjaTech在使用Trainium和Inferentia時,成本節約達82%-89%。這一顯著的成本優勢使得他們能夠以更具競爭力的價格為客戶提供高效、經濟實惠的AI服務。

除了芯片,NinjaTech還利用Amazon SageMaker進行生成式AI模型的微調和優化。在複雜的AI模型訓練中,NinjaTech需要處理不同的上下文、內存管理、數據存儲等挑戰,而SageMaker的按需服務模式,使其能夠快速進行實驗、訓練,並在不浪費資源的前提下高效部署AI應用。

作為一款生產力工具,Goodnotes通過生成式AI應用提高用戶在電子文檔處理和學習過程中的體驗。基於Amazon Bedrock,Goodnotes將生成式AI服務無縫集成進現有產品,包括手寫筆記識別、自然語言與筆記互動、文檔分析助手等功能。為了確保用戶數據隱私及教育合規,Goodnotes利用Guardrails功能確保安全性與合規性,防止用戶惡意使用AI生成有害內容。

不難看出,每家企業構建生成式AI應用推動業務創新,對於模型或工具平台的選擇,往往會從可靠性、經濟性、準確性等維度入手。與此同時,大模型仍在快速升級,不斷進行算法優化、參數擴增。而通過Amazon Bedrock,讓各種技能水平的開發人員和各種規模的組織都有機會使用生成式AI進行創新,新的浪潮正加速到來。(本文正選於鈦媒體APP,作者 | 楊麗,編輯 | 蓋虹達)