吳恩達出手,開源最新Python包,一個接口調用OpenAI等模型
機器之心報導
編輯:陳陳
在構建應用程序時,與多個提供商集成很麻煩,現在 aisuite 給解決了。
用相同的代碼方式調用 OpenAI、Anthropic、Google 等發佈的大模型,還能實現便捷的模型切換和對比測試。
剛剛,AI 著名學者、史丹福大學教授吳恩達最新開源項目實現了。
吳恩達在推文中宣佈了這一好消息開源新的 Python 包:aisuite!
這個工具可以讓開發者輕鬆使用來自多個提供商的大型語言模型。
在談到為何構建這個項目時,吳恩達表示構建應用時,發現與多個提供商集成非常麻煩。aisuite 正是為瞭解決這個問題而誕生的,用戶只需通過更改一個字符串(如 openai:gpt-4o、anthropic:claude-3-5-sonnet-20241022、ollama:llama3.1:8b 等),即可選擇不同提供商的模型。
項目地址:https://github.com/andrewyng/aisuite
項目一上線,大家紛紛表示「這對開發人員來說非常有用。」
「超級方便!簡化集成總是有益的,非常好的研究!」
統一接口設計,支持多個 AI 提供商的模型
aisuite 使開發者能夠通過標準化的接口輕鬆使用多個 LLM。其接口與 OpenAI 的類似,aisuite 可以很容易地與最流行的 LLM 交互並比較結果。
aisuite 是一個輕量級的包裝器,它基於 Python 客戶端庫構建,允許用戶在不修改代碼的情況下,輕鬆切換並測試來自不同 LLM 提供商的響應。
目前,這個項目主要集中在聊天補全功能,未來將擴展到更多使用場景。
當前,aisuite 支持的提供商包括:
-
OpenAI
-
Anthropic
-
Azure
-
Google
-
AWS
-
Groq
-
Mistral
-
HuggingFace
-
Ollama
為了確保穩定性,aisuite 使用 H湯臣P 端點或 SDK 來與提供商進行調用。
安裝
安裝過程有多種選擇。
下面是只安裝基礎包,而不安裝任何提供商的 SDK。
pip install aisuite
帶 Anthropic 支持的安裝方式
pip install 'aisuite [anthropic]'
下面是將安裝所有特定於提供商的庫。
pip install 'aisuite [all]'
設置
開始使用時,你需要為打算使用的提供商獲取 API 密鑰。API 密鑰可以作為環境變量設置,具體的使用方式可以參考 aisuite 的 examples 文件夾。
如果大家還不是很明白,可以參考下面簡短的示例展示,即如何使用 aisuite 生成來自 GPT-4o 和 Claude-3-5-Sonnet 的聊天補全響應。
先設置 API 密鑰:
export OPENAI_API_KEY="your-openai-api-key"
export ANTHROPIC_API_KEY="your-anthropic-api-key"
使用 Python 客戶端:
import aisuite as ai
client = ai.Client ()
models = ["openai:gpt-4o", "anthropic:claude-3-5-sonnet-20240620"]
messages = [
{"role": "system", "content": "Respond in Pirate English."},
{"role": "user", "content": "Tell me a joke."},
]
for model in models:
response = client.chat.completions.create (
model=model,
messages=messages,
temperature=0.75
)
print (response.choices [0].message.content)
想要嘗試的讀者可以跟著原項目進行配置。如今,我們身處大模型時代,對於開發者而言,用一個統一的接口就能調用各種大模型,這給開發者們節省了大量的時間成本。
我們期待這種實用的開源項目越來越多,如果你有好的項目推薦,歡迎大家評論區留言。