吳恩達開源大模型套件:11個模型平台一種方式調用,已獲星標超1.2K
基爾西 發自 凹非寺
量子位 | 公眾號 QbitAI
吳恩達發佈的開源大模型套件aisuite,不到半天就斬獲了1200+星標。
它把11家知名大模型平台集中到了一起,統一了接口,可以用相同的方式調用不同模型。
切換模型時,只需要改動一個字符串,不用在不同的API之間摸不著頭腦了。
對需要在應用當中集成多個不同模型的開發者來說,這套工具可以提高不少的開發效率。
有網民評論說,aisuite可以幫他在處理多個大模型時節省超過500行的代碼。
十餘家模型平台,一種方式調用
不同模型的API不盡相同,缺乏統一的調用方式,是讓許多應用開發者感到頭疼的一大難題。
特別是當同一個應用需要調用不同模型時,模型間的切換會耗費開發者的不少精力。
所以,aisuite設計了一個統一的調用接口,不管原模型的API是什麼樣,都可以用相同的方式來調用。
使用時,只需要改一個字符串,把模型平台和具體名稱填入,就可以調用aisuite支持的模型。
目前,aisuite一共支持OpenAI、Anthropic等11家模型平台,具體如下:
而且其中包括了擁有海量模型的Hugging Face這樣的模型平台,所以aisuite實際上支持的模型更多。
搭配Streamlit等工具,還能用aisuite構建的簡單聊天UI界面。
據介紹,目前aisuite套件主要關注於聊天功能,其他用例將在未來逐步擴展。
另外從GitHub的issue當中也可以得知,aisuite套件目前比較基礎,像函數調用等功能正在開發之中,將很快上線。
除了模型切換方便,aisuite的安裝配置過程也比較簡單。
需要準備的內容包括Python環境,以及對應模型的API密鑰和支持庫。
首先需要通過pip安裝aisuite框架,模型支持庫可以在這一步進行選裝。
pip install aisuite
pip install ‘aisuite[★]’
其中★處填入想安裝的支持庫名稱,或者填all安裝所有庫(外側方括號和單引號不可省略)。
此外還需要有對應模型的API密鑰,可以設置為環境變量,也可以作為配置傳遞給aisuite中的構造函數。
One More Thing
除了吳恩達之外,開源社區對aisuite也擁有不可磨滅的貢獻。
算上吳恩達本人,aisuite的貢獻者一共有六人,其餘五人分別是(按姓氏字母排序):
-
在線繼續教育平台CLE Hero聯合創始人Ryan Prinz;
-
前GoogleChronicle Security工程主管Rohit Prsad;
-
DeepLearning.AI(吳恩達創辦的在線學習平台)特殊項目負責人John Santerre;
-
在線酒水銷售平台Provi高級工程師Kevin Solorio;
-
Meta生成式AI工程師、原高通高級工程師Jeff Tang。
同時,這一項目也發佈了貢獻指南(Contributing Guide),歡迎整個開源社區幫助推動後續的工作。
GitHub:
https://github.com/andrewyng/aisuite/pulse
參考鏈接:
https://x.com/AndrewYNg/status/1861085482526105842