大模型廠商密集發力,Google也開「卷」了:Gemini 聊天機器人換上新模型,還能一鍵核查輸出內容

Meta、OpenAI 等大模型廠商密集發力之際,Google也宣佈了一項重磅更新 ——

即日起,Gemini 聊天機器人將改由 Gemini 1.5 Flash 驅動。

與之前的版本相比,窗口長度提高到了 4 倍,響應速度也更快了。

按照Google的介紹,新版聊天機器人背後的 1.5 Flash 模型,主打的就是輕量化和速度提升。

當然模型回覆的質量也有提升,上下文窗口也從原先(基於 1.0 Pro)的 8k 提升到了 32k。

此外新版聊天機器人還增加了「事實核查」功能,可以一鍵檢測生成的內容是否屬實,減輕模型幻覺帶來的不良影響。

有網民感歎,Google今天表現真的很強,先是兩款 Aplha 系模型(拿下了 IMO 銀牌),接著 Gemini 也發佈了更新。

還有人開啟了許願模式,期待 Google Scholar 學術搜索當中也能加入 AI 功能。

更長上下文窗口,速度也變快了

本次更新的最主要內容,就是把免費版背後的模型從 1.0Pro 換成了 1.5 Flash。

Gemini 1.5 Flash 最早亮相於 5 月的Google I / O 開發者大會。

通過訓練數據的「蒸餾」,Gemini 1.5 Flash 用更輕量化的體積實現了較高的生成質量。

而且小體積也讓模型的速度更快、效率更高,同時它還支持多模態推理。

Google介紹,此次更換模型之後,聊天機器人的速度會變得更快,同時舊版 8k 的上下文窗口,擴增到了 32k。

不過 1.5 Flash 自身是支持 1 百萬的上下文的,這樣的削減幅度屬實是不小,但畢竟是免費免費版本。

除了模型的升級,另外一項重要更新就是事實核查功能了。

在最新的 Gemini 聊天機器人當中,可以通過該功能一鍵對輸出的內容進行檢查。

系統會針對輸出中的內容在Google上進行搜索和比對,然後標記出相符和不符之處

有網民評論說,看到 OpenAI 上線 GPT-4o mini 時就覺得Google上新只是個時間問題。

的確,不僅是 OpenAI 和Google,Meta、Mistral 等在做大模型的廠商最近都是動作頻繁。

而關於模型的表現,這位網民也表示自己試過 1.0 Pro 和 1.5 Flash,兩者表現幾乎相同,而 1.5 Flash 速度更快。

所以,Google的這波操作,一定程度上也是適應了最近興起的「模型輕量化」趨勢。

那麼,更換了 1.5 Flash 之後的 Gemini 聊天機器人,表現到底怎樣呢?

一鍵檢查模型輸出

量子位對新版的聊天機器人進行了簡單測試。

首先來看一下這次更新的事實核查功能,第一步是像正常對話一樣隨便提一個問題,Gemini 也會正常作答。

可以看到在答案的下方有一個Google的 logo,這就是事實核查功能的按鈕了。

點擊之後系統會自動在Google進行搜索,然後與自己的輸出內容進行比對。

比對完成後,能夠搜索到信源且相符的內容會被高亮為綠色,如果與搜索結果存在出入,則會以淺紅底色標註。

點擊標註的位置,可以看到 Gemini 用於對比的內容鏈接。

需要注意的是,這樣的標註並不意味著輸出的內容是錯誤的,比如這裏引用的對比資料中,湯告魯斯的母親是 Marry Lee South。

由於文本不匹配,導致答案中這一部分被系統標註,但實際上兩個都是正確答案。

由於這個事實核查依靠的是互聯網搜索,對比資料的質量也是參差不齊,不一定能做到 100% 的準確。

比如關於「林黛玉倒拔垂楊柳」這個經典段子,Gemini 明明給出了正確答案,結果卻被標紅了。

再一看引用的對比信息,屬實是有些難繃了。

所以這個功能的作用,主要是提供了一個更便捷的核查途徑,但具體應當如何採信,還是要依靠多方查證,以及用戶自己的判斷

另外,關於模型本身,我們也測試了幾個最近流行的讓大模型屢屢碰壁的難題。

比如數字比大小,Gemini 甚至把兩個數字換算成了錢,但一通操作之後最後的結果是…… 錯的。

自從這個問題被發現以來,如果這個是第二搞笑的答案的話,應該沒有哪個模型敢稱第一了。

還有一開始給了個錯誤答案,後面分析過程中糾正過來的。

但如果用英語提問,還是有希望直接答對的。

還有數字母的問題,這個回答竟然能從中文里數出字母來…… 也是把人給整不會了,完全不在預判之內。

最後,關於此次更新中提到的速度提升,經測試發現,Gemini 1.5 Flash 輸出第一個字的耗時要短於 Claude 3 Haiku,後續的速度用肉眼觀察區別不是很明顯。

以上就是 Gemini 1.5 Flash 在聊天機器人中的表現,感興趣的讀者可以自行嘗試。

參考鏈接:

  • [1]https://blog.google/products/gemini/google-gemini-new-features-july-2024/

  • [2]https://x.com/GeminiApp/status/1816512086232731696

本文來自微信公眾號:量子位(ID:QbitAI),作者:基爾西

廣告聲明:文內含有的對外跳轉鏈接(包括不限於超鏈接、二維碼、口令等形式),用於傳遞更多信息,節省甄選時間,結果僅供參考,IT之家所有文章均包含本聲明。