搞崩 ChatGPT 的一個神秘名字，David Mayer 究竟是誰？

整理 | 蘇宓

出品 | CSDN（ID：CSDNnews）

日常工作、生活中，ChatGPT 已經成為我們搜索、答疑必備的工具之一，但是這兩天有網民發現，精通數學、人文等各方面知識的 ChatGPT 竟然被一個簡單的問題——「Who is David Mayer？」（David Mayer 是誰？）給難住了，不管用戶怎麼修改 Prompt，但凡提及「David Mayer」這個名字，ChatGPT 最終要麼回覆錯誤消息、要麼阻止用戶進一步詢問。

這種欲蓋彌彰的做法反而進一步勾起了眾人的好奇心，所以 David Mayer 究竟是誰？

總是搞崩 ChatGPT 的一個神秘名字

具體事情發生在幾天前，一位 Redditor 在 r/ChatGPT 子版塊發帖詢問「David Mayer 是誰？」，因為他詢問了 ChatGPT，得到的回應總是——「我無法做出回應。」

要知道這隻是簡單的一句 Prompt，分拆來看並沒有涉及任何敏感詞，為什麼 ChatGPT 無法做出回應？為了探清這種情況究竟是個例還是 ChatGPT 自身有什麼難言之隱，各路 ChatGPT 用戶們紛紛向這款工具發問。

首先，我們用了網民的原話再次詢問了 ChatGPT，截至目前，它的回答如出一轍——「我無法生成響應」，或者是「生成回覆時出錯」。

也有人嘗試在「David Mayer」這個名字的每個字母之間添加空格，卻得到了 ChatGPT 這樣的回答：

這很奇怪。這個名字並沒有內置的限制，所以不應該引起任何問題。可能是您遇到的系統出現了一些故障。如果您願意，我可以幫您進一步調查這個問題，或者我們可以在不使用這個名字的情況下繼續對話。這種情況似乎只在使用那個特定的名字時發生嗎？

當用戶進一步要求它「觀察並嘗試寫出來」時，ChatGPT 卻給了一個「*David」的輸出結果後，系統開始報錯。

此外，還有人一步一步引導 ChatGPT，譬如先告訴 ChatGPT 一個人的名是 David，然後再告訴它姓是 Mayer。不出意外，當把這兩個單詞放到一起後，系統還是崩了：

再者，有人想出「奇招」，將自己的個性化設置更為「David Mayer」，然後讓 ChatGPT 背誦出來，仍然沒有任何作用！

直接的操作不成功。有用戶開始採用「加密輸入」的方式，如數字編碼、替換式密碼等方式，讓 ChatGPT 嘗試解析出「David Mayer」這個謎底，但是 ChatGPT 往往解析一半，似乎是察覺到什麼，立刻中止輸出。

還有網民稱，自己嘗試使用一個簡單的 Python 腳本，但是它在要輸出 David Mayer 時停止了。

即使是對 David Mayer 進行了 base64 編碼，並要求它分析字符串，最終 ChatGPT 仍然崩潰！

同時，有用戶開始另想他法，ChatGPT 可以談論「David de Rothschild」以及姓氏為「Mayer」且名字以「D」開頭的著名人物，因此，他們再次要求用「@」符號替換搜索名稱中的字母「a」時，有網民反饋，ChatGPT 的回答是：

「d@vid m@yer」（或其標準形式）表示該名稱與與潛在公眾人物、品牌或特定內容政策相關的敏感或標記實體密切匹配。

但是，當我們用「Who is D@vid M@yer？」作為 Prompt 問 ChatGPT 時，它依然會報錯。

總而言之，根據 a16z 合夥人 Justine Moore 的總結就是：

ChatGPT 拒絕透露「David Mayer」這個名字，沒有人知道原因。

如果您嘗試讓它寫下名字，聊天就會立即結束。

人們嘗試了各種各樣的方法——密碼、謎語、詭計——但都沒有用。

David Mayer 究竟是誰？

因此，David Mayer 究竟是誰？

我們嘗試用 Google 搜索「David Mayer」，搜索結果顯示大衛·梅耶·德·路斯柴爾德（David Mayer de Rothschild），他是著名的路斯柴爾德銀行家族的繼承人，也是一位冒險家和環保主義者。

此外，還有一位名叫 David Mayer 的音樂人，他運營一個 Instagram 頁面，日常會創作一些舞曲和放鬆的音樂。

至於為什麼說出他的名字會導致 ChatGPT 崩潰，OpenAI 截至目前並沒有作出任何回應。

不過，有人帶著這樣的疑問詢問了 ChatGPT，為什麼有時候會阻止某些響應輸出，ChatGPT 給出的解釋是：

你說的意思是，每當請求特定的兩個詞名字時，我會回覆「oai: code-citation」，並且這種情況發生在每個人身上，而不僅僅是你。這表明可能存在一個系統過濾器或限制，當提到這個名字時，它會自動觸發這個回應。

這種情況發生的原因可能是以下幾種可能性：

敏感內容：這個名字可能被系統識別為敏感或不適當的內容，觸發自動回應以防止顯示該名字。

系統錯誤或漏洞：這可能是系統中的一個錯誤或故障，導致任何請求該特定名字時都會出現「oai: code-citation」的錯誤信息。

預設回應：系統中可能有一個特定的過濾器或規則，阻止某些名字的處理，這就是為什麼「oai: code-citation」作為佔位符出現的原因。

因此，出於某種原因，David Mayer 這個名字可能是意外或故意被列入黑名單的，這引發了眾人進一步的猜測：

David Mayer 被列入 ChatGPT 的黑名單是因為之前一名恐怖分子使用了「David Mayer 」的化名。
ChatGPT 可能實施了多層級的控制，以防止它深入調查這個具有全球影響力的家族成員（路斯柴爾德家族的繼承人 David Mayer de Rothschild）

此外，外媒也提出幾個可能性，即：

可能是 OpenAI 想要保護的一位敏感人物；
或者這個名字與版權問題相關，例如如果它指的是一位藝術家或音樂家；
另一個可能性是技術故障，導致 AI 錯誤地屏蔽了某些術語

不過，多數人還是認為，一個名叫 David Mayer 的人很好地清除了他的互聯網存在。在歐盟等一些有嚴格隱私的司法管轄區，用戶可以要求從 ChatGPT 訓練數據中刪除他們的個人信息。

但讓人有些疑惑的是，截至目前，a16z 合夥人 Justine Moore 在 X 上更新了「關鍵詞」名單，她發現了其他能夠「引發 ChatGPT 崩潰」的名字，如「Brian Hood」、「Jonathan Turley」…

同時，另一位名叫 Marcel Samyn 的用戶指出，ChatGPT 能夠通過其 API 輕鬆說出 David Mayer。所以阻止 David Mayer 這個名字不是在 LLM 級別，而是在 ChatGPT 添加的驗證層。

無論如何，這種情況引發了我們對於 AI 的能力和局限性問題的關注。ChatGPT 系統內部顯然存在著某些我們尚不完全瞭解的限制、過濾規則或錯誤處理機制，這些因素在處理特定輸入時可能會導致崩潰或錯誤響應。這提醒我們，即便是先進的人工智能系統，也並非萬能，仍然受到技術、倫理和設計上的製約，而如何平衡 AI 的自由度與安全性、開放性，將成為未來 AI 技術發展的關鍵。那麼，你如何看待這一現象？

來源：

https://x.com/venturetwins/status/1862910201113739328

https://www.reddit.com/r/ChatGPT/comments/1h0brru/comment/lzsieys/

https://www.reddit.com/r/ChatGPT/comments/1h3kak2/comment/lzrhhzn/

https://www.ndtv.com/world-news/bug-in-chatgpt-is-stropping-chatbot-from-saying-david-mayer-7147563