大模型廠商密集發力,Google也開「卷」了:Gemini 聊天機器人換上新模型,還能一鍵核查輸出內容
Meta、OpenAI 等大模型廠商密集發力之際,Google也宣佈了一項重磅更新 ——
即日起,Gemini 聊天機器人將改由 Gemini 1.5 Flash 驅動。
與之前的版本相比,窗口長度提高到了 4 倍,響應速度也更快了。
按照Google的介紹,新版聊天機器人背後的 1.5 Flash 模型,主打的就是輕量化和速度提升。
當然模型回覆的質量也有提升,上下文窗口也從原先(基於 1.0 Pro)的 8k 提升到了 32k。
此外新版聊天機器人還增加了「事實核查」功能,可以一鍵檢測生成的內容是否屬實,減輕模型幻覺帶來的不良影響。
有網民感歎,Google今天表現真的很強,先是兩款 Aplha 系模型(拿下了 IMO 銀牌),接著 Gemini 也發佈了更新。
還有人開啟了許願模式,期待 Google Scholar 學術搜索當中也能加入 AI 功能。
更長上下文窗口,速度也變快了
本次更新的最主要內容,就是把免費版背後的模型從 1.0Pro 換成了 1.5 Flash。
Gemini 1.5 Flash 最早亮相於 5 月的Google I / O 開發者大會。
通過訓練數據的「蒸餾」,Gemini 1.5 Flash 用更輕量化的體積實現了較高的生成質量。
而且小體積也讓模型的速度更快、效率更高,同時它還支持多模態推理。
Google介紹,此次更換模型之後,聊天機器人的速度會變得更快,同時舊版 8k 的上下文窗口,擴增到了 32k。
不過 1.5 Flash 自身是支持 1 百萬的上下文的,這樣的削減幅度屬實是不小,但畢竟是免費免費版本。
除了模型的升級,另外一項重要更新就是事實核查功能了。
在最新的 Gemini 聊天機器人當中,可以通過該功能一鍵對輸出的內容進行檢查。
系統會針對輸出中的內容在Google上進行搜索和比對,然後標記出相符和不符之處。
有網民評論說,看到 OpenAI 上線 GPT-4o mini 時就覺得Google上新只是個時間問題。
的確,不僅是 OpenAI 和Google,Meta、Mistral 等在做大模型的廠商最近都是動作頻繁。
而關於模型的表現,這位網民也表示自己試過 1.0 Pro 和 1.5 Flash,兩者表現幾乎相同,而 1.5 Flash 速度更快。
所以,Google的這波操作,一定程度上也是適應了最近興起的「模型輕量化」趨勢。
那麼,更換了 1.5 Flash 之後的 Gemini 聊天機器人,表現到底怎樣呢?
一鍵檢查模型輸出
量子位對新版的聊天機器人進行了簡單測試。
首先來看一下這次更新的事實核查功能,第一步是像正常對話一樣隨便提一個問題,Gemini 也會正常作答。
可以看到在答案的下方有一個Google的 logo,這就是事實核查功能的按鈕了。
點擊之後系統會自動在Google進行搜索,然後與自己的輸出內容進行比對。
比對完成後,能夠搜索到信源且相符的內容會被高亮為綠色,如果與搜索結果存在出入,則會以淺紅底色標註。
點擊標註的位置,可以看到 Gemini 用於對比的內容鏈接。
需要注意的是,這樣的標註並不意味著輸出的內容是錯誤的,比如這裏引用的對比資料中,湯告魯斯的母親是 Marry Lee South。
由於文本不匹配,導致答案中這一部分被系統標註,但實際上兩個都是正確答案。
由於這個事實核查依靠的是互聯網搜索,對比資料的質量也是參差不齊,不一定能做到 100% 的準確。
比如關於「林黛玉倒拔垂楊柳」這個經典段子,Gemini 明明給出了正確答案,結果卻被標紅了。
再一看引用的對比信息,屬實是有些難繃了。
所以這個功能的作用,主要是提供了一個更便捷的核查途徑,但具體應當如何採信,還是要依靠多方查證,以及用戶自己的判斷。
另外,關於模型本身,我們也測試了幾個最近流行的讓大模型屢屢碰壁的難題。
比如數字比大小,Gemini 甚至把兩個數字換算成了錢,但一通操作之後最後的結果是…… 錯的。
自從這個問題被發現以來,如果這個是第二搞笑的答案的話,應該沒有哪個模型敢稱第一了。
還有一開始給了個錯誤答案,後面分析過程中糾正過來的。
但如果用英語提問,還是有希望直接答對的。
還有數字母的問題,這個回答竟然能從中文里數出字母來…… 也是把人給整不會了,完全不在預判之內。
最後,關於此次更新中提到的速度提升,經測試發現,Gemini 1.5 Flash 輸出第一個字的耗時要短於 Claude 3 Haiku,後續的速度用肉眼觀察區別不是很明顯。
以上就是 Gemini 1.5 Flash 在聊天機器人中的表現,感興趣的讀者可以自行嘗試。
參考鏈接:
-
[1]https://blog.google/products/gemini/google-gemini-new-features-july-2024/
-
[2]https://x.com/GeminiApp/status/1816512086232731696
本文來自微信公眾號:量子位(ID:QbitAI),作者:基爾西
廣告聲明:文內含有的對外跳轉鏈接(包括不限於超鏈接、二維碼、口令等形式),用於傳遞更多信息,節省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。