OpenAI語音轉錄工具翻車,盲信AI不可取

作為一家在AI領域深耕多年的獨角獸,OpenAI首次進入公眾視野是在2022年秋季發佈的ChatGPT,但這並不代表OpenAI在ChatGPT之前就毫無建樹。其實在推出ChatGPT前,OpenAI做了打《DOTA2》的AI程序OpenAI Five,以及開源AI語音轉文字工具Whisper。

如果說OpenAI Five是小試牛刀,那麼Whisper自然就是OpenAI方面當時希望用技術揚名的作品。以至於在Whisper發佈四年後的今天,OpenAI還在DevDa活動日中推出了Whisper large-v3-turbo語音轉錄模型。只可惜這次Whisper翻車了,據相關報導顯示,其通過採訪工程師、開發人員和學術研究人員後發現,Whisper編造內容的問題被暴露了出來。

據悉,Whisper很容易編造大段文本、甚至整句話,這些幻覺中包含種族評論、暴力言論,乃至編造的醫生與患者對話。有開發者透露,他用Whisper創建的26000份轉錄樣本中幾乎每一份都出現了幻覺。甚至有開發者分析了100多個小時的Whisper轉錄樣本後發現,其中約有一半內容存在幻覺。

AI會因為幻覺(AI Hallucinations)而胡說八道,其實早已是公認的現實,無論國內的文心一言、Kimi、混元,還是海外的ChatGPT、Gemini,目前還都無法拍著胸脯保證AI不會答非所問、胡編亂造。而AI大模型之所以會產生幻覺,就好比人類會做夢幻一樣,現階段還是無可避免的規律。

儘管AI會幻覺正常,但Whisper如此頻繁地出現幻覺就有些反常了,而「發病」概率過高才是相關報導被廣泛關注的基礎。而且不僅是隨口轉錄會出問題,即便是錄製良好的短音頻,轉錄幻覺的問題還是很普遍,有研究人員在他們檢查的13000多個清晰音頻片段中,就有187個片段中出現了幻覺。

AI致幻的原因其實很簡單,因為大模型就是一個本身就基於概率的黑箱產物,它的預訓練機制是從訓練數據中進行泛化,以便獲得類似人類的推理能力。然而當模型過度調整訓練數據時就會發生過度擬合,有效地記住了該集合的特定輸入和輸出,從而影響其有效處理樣本之外數據的能力。

想要解決AI幻覺,在不改變當下大模型訓練機制的情況下只有唯一一種解法,即將全世界所有的知識都填充到一個數據居里。只可惜,沒有哪一家廠商敢於宣稱擁有一個完全覆蓋所有知識的「圖書館」。但無法避免的幻覺所導致的結果,就是AI會輸出表面上看合理、且富有邏輯,但實際上卻存在事實錯誤或壓根不存在的內容。

人工智能有幻覺才是它肖似人類的關鍵,畢竟人非聖賢孰能無過,AI也一樣。問題是各路AI廠商和媒體為了營造AI熱潮,將AI的能力放大,過於誇大了AI的上限。以至於在宣傳口徑里,基於大模型的AI已經是《終結者》里無所不能的「天網」,進而也放大了AI幻覺的負面性。

當下一個不可忽視的情況,是相比於對AI有所警惕的群體,敢於嚐鮮ChatGPT等AI產品的群體反而會成為AI幻覺的受害者。因為當AI將錯誤以一種有說服力和可信度的方式呈現出來後,習慣於使用AI的人反而會忽視事實驗證的情況,並接收到錯誤的信息。「善遊者溺、善騎者墮,各以所好反自為禍」,老祖宗的話並不是沒有道理。

事實上,目前AI普及最大的難題,就是宣傳調門太高與實際應用的局限性產生了衝突。作為一款語音轉錄產品,Whisper目前已經被不少海外醫療機構啟用,以提升醫生的工作效率,並且在後續的診療過程中,醫療人員大概率會以Whisper轉錄的內容來作為依據。這時候Whisper出現憑空編造醫患對話的情況,又怎能不讓海外網民感到驚恐。

儘管AI大模型、AIGC確實是好東西,可是在相關廠商的宣傳里,幻覺導致的一系列問題被有意無意地忽視了。在用戶的樸素認知里,AI能夠掌握大數據、算力也更強,所以它得出的結論一定是更有參考的價值的,這也是目前市面上AI購物助手誕生的土壤。可一旦AI購物助手產生幻覺,消費者就得損失金錢,Whisper產生幻覺、患者就可能會被誤診。

遊走在權力與責任邊緣的AI,既帶來了巨大的效率提升,還隱藏著無法忽視的風險。對於這樣一柄雙刃劍,要如何用好它如果只聽「販劍」的AI廠商一面之詞顯然不夠。

本文來自微信公眾號「三易生活」(ID:IT-3eLife),作者:三易菌,36氪經授權發佈。