馬斯克的Grok「發瘋」，奧特曼在線嘲諷，xAI緊急回應

5 月 14 日淩晨，由馬斯克的 xAI 推出的 AI 聊天機器人 Grok 出現故障，導致它在 X 平台上回覆了大量與「南非白人種族滅絕」（white genocide）相關的信息，即使用戶並沒有詢問此類話題。此外，Grok 還提及了反種族隔離時期的口號「消滅布爾人」（kill the Boer）。

這一事件引發廣泛關注，OpenAI CEO 奧特曼顯然也不打算放過這次機會，迅速嘲諷了 Grok：

「這事情有好多可能的解釋。我肯定xAI很快會給出一個完整又透明的解釋。不過，（Grok 出現這種情況）只能放在南非「白人滅絕」的語境下才能真正理解。作為一個被編程設置為追求最大真相併遵循指令的 AI ……」

YC 創始人 Paul Graham 表示，「Grok 隨意發表關於南非白人種族滅絕的觀點，在我看來就像剛打了補丁後出現的 bug 行為一樣。我真心希望不是這樣。如果廣泛使用的人工智能被控制者隨意評論，那就太糟糕了。」

xAI 很快給出了回應，表示有人未經授權修改了 Grok 的回覆提示詞，導致它亂說話，以下是 xAI 的完整回應：

我們想向大家通報一下我們的 Grok 機器人昨天在 X 上發生的一起事件。

5 月 14 日淩晨 3 點 15 分左右（太平洋標準時間），有人未經授權修改了 Grok 在 X 平台上的回覆提示詞。這個修改讓 Grok 在回覆時專門扯上了一個政治話題，這事情違反了 xAI 的內部政策和核心價值觀。我們已經徹底調查了這件事，還正在實施一些措施，希望能提高 Grok 的透明度和可靠性。

接下來我們要做的事：

從現在開始，我們把 Grok 的系統提示詞全部公開在 GitHub 上。大家都可以去看，還能對我們做的每一次提示修改提出意見。我們希望這樣能讓大家更信任 Grok，相信它是一個追求真相的 AI。
這次的事情繞過了我們原有的代碼審查流程。以後，我們會再加一層把關，確保 xAI 的員工不能擅自修改提示，得經過審查才行。
我們還會安排一個 24 小時值守的團隊，專門盯著 Grok 的回覆。要是自動化系統沒發現的問題，這個團隊能第一時間察覺並響應。

目前，Grok 已將系統提示公開發佈在 GitHub 上，並表示將用於 Grok 聊天助手以及 X 和 grok 的各種產品功能的系統提示定期更新此存儲庫。

這一事件引發了業內更深層次的討論。技術新聞網站 404 Media 引用了多位人工智能專家的觀點，他們對 X 的 AI 機器人為什麼會傳播與馬斯克政治觀點相契合的偏執行為提出了各種理論。但具體是如何發生的，仍然是個謎。

正因如此，人工智能倫理學家和相關技術開發及應用的專家一直在強調對 AI 進行監管以及積極採取措施消除 AI 模型中偏見的必要性。因為如果不這樣做，像 Grok 這樣的 AI 工具就可能被設計成傳播危險的、甚至是種族主義的宣傳內容。業內人士稱，「馬斯克曾聲稱他的 AI 聊天機器人將擺脫所謂的‘政治正確思維病毒’。從某種程度來看，他似乎成功了，因為他的機器人在毫無意義地傳播為支持種族隔離的南非白人辯護的謊言。」

參考來源：

https://x.com/sama/status/1923015309113397592?s=46

https://x.com/xai/status/1923183620606619649?s=46

https://www.msnbc.com/top-stories/latest/grok-white-genocide-kill-the-boer-elon-musk-south-africa-rcna207136

本文來自微信公眾號「學術頭條」（ID：SciTouTiao），作者：學術頭條，36氪經授權發佈。