GoogleCEO反思大模型生成錯誤圖像：不可接受，初期沒有完美AI

由於旗下AI（人工智能）Gemini在生成的圖像中展現出了過度的“多樣性”，在緊急下架Gemini剛上線不到一個月的圖像生成功能後，GoogleCEO承認該問題冒犯了客戶，公司將為AI產品的發佈推出新流程。

當地時間2月27日晚間，GoogleCEO桑德·皮查伊（Sundar Pichai）給員工發了一封電子郵件，就GoogleGemini AI此前出現的圖像生成問題進行了回應。皮查伊稱該問題“完全不可接受”，團隊正在“日夜不休”地糾正這些問題，並表示公司將進行結構性改革，以防止類似事件的發生。

在聲明中，皮查伊的態度十分誠懇：“我知道有一些回應已經冒犯到我們的用戶，並展現出偏見——需要明確的是，這是完全不可接受的，我們做錯了……沒有一種AI是完美的，尤其是在行業發展的初期階段，但我們知道自己的標準很高。”

皮查伊還在聲明中明確了公司將會採取的一系列行動，包括進行結構性改革、更新產品指南、改進發佈流程、加強評估體系和紅隊測試（安全檢查技術）以及技術建議。

2月28日，Google母公司Alphabet（Nasdaq：GOOG）股價收於每股137.43美元，跌1.91%，總市值1.70萬億美元。

就在本月初，Google為其AI模型Gemini推出了圖像生成器工具，允許用戶通過輸入提示來創建圖像。但在過去一週中，網友們發現，該工具似乎在有意避免生成包含白人的圖像，並在圖像中加入了過量的“多樣性”要素，造成所生成圖像的曆史不準確性。

該問題不僅引發網友對Google的“群嘲”，還激怒了特斯拉CEO埃隆·馬斯克，讓後者於一週時間內針對該問題發佈了超過150條推文，還借此事將矛頭指向OpenAI、Facebook、Instagram以及維基百科等等，稱逆向種族歧視正在席捲西方。

Google已於上週緊急叫停了Gemini的圖像生成功能，表示將在未來幾週內重新推出。Google高級副總裁Prabhakar Raghavan也代表公司發佈了一篇正式的道歉聲明，並解釋了為什麼會發生這樣的情況：首先，團隊為了確保Gemini能夠生成具有多樣性的人群而對其進行了調整，但未能考慮到在某些場景中並不需要生成具有多樣性的人群；其次，模型比團隊的預期發展得更為謹慎，完全拒絕回應用戶的某些正常提示詞。

正是由於上述問題，Gemini生成的圖像在某些情況下會“過度補償”，在另一些情況下又會“過度保守”，從而出現了“矯枉過正”的現象。

Gemini本次展現出的問題，只是AI領域長期以來存在的歧視問題的另一種表現。這也從側面說明，即使有好的初衷，隨著數據的大量輸入和時間推移，AI就有可能出現誤解開發者意圖的表現。從本質上來看，這也給AI的監督問題再次敲響了警鍾：在越來越激烈的AI競賽中，像Google這樣的大公司如何在加快發展的同時，保證產品的安全性？

不過，當下的AI熱潮似乎並沒有任何要放慢速度的跡象。就在三天前的2月26日，Google旗下DeepMind發佈了一個根據互聯網視頻訓練的基礎世界模型Genie。Genie是一個110億參數的基礎世界模型，在超過20萬小時的二維（2D）遊戲視頻上進行訓練，可以根據合成圖像、照片甚至草圖生成各種各樣動作可控的2D世界。