GPT-4o新版本突然上線:絲滑解決9.11和9.9誰大,更強也更便宜了
明敏 發自 凹非寺
量子位 | 公眾號 QbitAI
GPT-4o新版本突然上線,更強更便宜。
能力全方位提升,ZeroEval基準測試直接躍居第一。
輸入和輸出分別節省50%、33%。
四捨五入就是API降價啊。
token輸出擴展到16k,此前支持4k。
9.11和9.9誰大這個問題,也能絲滑解決。
這是因為OpenAI給API中引入了結構化輸出。
通過JSON 模式確保模型輸出符合開發者定義的結構,能讓模型變得更可靠安全。
最新版模型「GPT-4o-2024-08-06」在JSON模式評估中,得分100%。
相比之下,今年6月的版本得分還低於40%。
在代碼編輯方面,最新版本的基準得分和此前版本相同,但是現在成本只有原來的一半。
還有人發現,這個新版本是OpenAI在圖像輸入上最便宜的型號。
API支持結構化輸出
去年OpenAI DevDay上,官方正式給GPT-4引入了JSON模式,可以幫助開發者構建應用程序。
儘管JSON模式能提高模型可靠性,但是它並不能保證模型生成結果符合特定模式。
因此在這次更新中,OpenAI在API中引入結構化輸出,可以確保模型生成內容和開發者提供的JSON模式完全匹配。
主要形式有兩種:
1、函數調用:通過在函數定義中設置strict:ture來調用結構化輸出。
此功能適用於所有模型型號,包括gpt-4-0613和gpt-3.5-turbo-0613等。當結構化輸出被啟用時,模型輸出將匹配提供的工具定義。
2、response_format參數新選項。
開發者可以通過json_schema (response_format參數的新選項)提供JSON模式。
當模型不是調用工具,而是以結構化的方式響應用戶時,這是有用的。該功能適用於gpt-4o-2024-08-06和gpt- 4o-mini-2024-07-18。當response_format使用strict: true提供時,模型輸出將與提供的模式匹配。
OpenAI更新了Python和Node SDK,支持本地的結構化輸出功能。
此外,還強調了安全輸出。新模式將遵循現有的安全規則,並引入了refusal字符串值來幫助開發者識別模型拒絕 unsafe 請求的情況。
結構化輸出還可以用於動態生成用戶界面、分離最終答案與推理過程、從非結構化數據中提取結構化數據等多種用例。
最後在價格方面,輸入價格為2.5美元/100萬token,輸出價格為10美元/100萬token。
由於新模型在輸入和輸出上能更節省,四捨五入也是降價了。
有人發現,這個新模型的輸出沒有上一版本那麼冗長,成本上更可控。
參考鏈接:
https://openai.com/index/introducing-structured-outputs-in-the-api/