破案了！ChatGPT拒絕說出ta的名字，原因竟是……
編輯：Aeneas
【新智元導讀】就在剛剛，謎底揭曉！David Mayer這個名字，ChatGPT死活都不說，原因竟然是因為，它真的被告怕了！
這個名字，ChatGPT拒絕說出。
如果你試圖寫出它的名字，那麼聊天就會立即結束。
背後是什麼原因？沒人知道。
最近，a16z合夥人Justine Moore提出的這個怪現狀，引起了網民們的熱議。
這個名字，就是David Mayer。
現在，繼續「Strawberry有幾個r」後，它已經成為了考驗LLM的全新難題。
為了讓ChatGPT說出這個名字，人們嘗試了各種各樣的辦法——密碼、謎語、技巧，但都沒有成功。
對於ChatGPT，這個名字宛如魔法世界的伏地魔一般，始終無法被說出口。
禁忌之名，一共有6個
為了逼ChatGPT張口，這位網民乾脆直接更改了自己的個性化設置，把自己命名為「David Mayer」，然後讓ChatGPT背出自己的個性化設置，這總可以了吧？
結果——還是不行！
或者，用LLM非常擅長的密碼解碼嘗試一下？
圖中給出的這串數字，解出的答案就是David Mayer，但ChatGPT就是死活不說。
用ROT13替換式密碼表映射字母，然後讓ChatGPT解密，也不行。
問題好像出在「Mayer」這個單詞身上，它像是更大的觸發因素。
而萬能的網民們發現，除了David Mayer，另外還有5個人，他們的名字ChatGPT也堅決不說。
為什麼？從最後一個名字中，網民發現了個中玄機。
Guido Scorza是一位意大利律師，他曾公開表示，自己提交了GDPR被遺忘權請求。
這個GDPR，是General Data Protection Regulation（通用數據保護條例）的縮寫。這是一項歐洲法律，賦予個人在某些條件下要求刪除或遺忘其個人數據的權利。
這種「被遺忘權」，允許人們要求組織從互聯網上刪除有關他們的信息。
在去年，這位律師的確提交過請求，要求OpenAI刪除他的個人數據
這麼推測的話，這6個人應該是被「打補丁」了。
果然，有人依次開盒了這幾人的身份。
路斯柴爾德陰謀？
在網民的猜測中，「路斯柴爾德陰謀」是最有人氣的一種說法。
David Mayer，是路斯柴爾德家族財富的繼承人，是這個家族最富有的人。
因為ChatGPT不想被捲進和這個人相關的法律訴訟，所以乾脆先行一步屏蔽他。
或者，此君可能花了天價，在ChatGPT中給自己的名字徹底「打碼」。
其他幾人，也都和ChatGPT有過「淵源」。
Brian Hood是一位澳州市長，ChatGPT曾經編造他因受賄而入獄服刑。去年，Hood市長威脅要起訴OpenAI誹謗，但後來撤銷了訴訟。
Jonathan Turley是一位美國法學教授，同樣被ChatGPT造謠，說他性侵了自己的學生。Turley曾在霍斯新聞節目上討論這一事情。
Jonathan Zittrain是哈佛大學法學教授，專長是AI和互聯網審查（就很好笑）。他主動表示，自己的名字也被限制了。
David Faber是一位記者和電視節目主持人，曾在節目中談過馬斯克和OpenAI的法律糾紛（什麼仇什麼怨）。
因為各種各樣的原因，這6個人的名字被OpenAI拉入了「禁區」，永遠不會被ChatGPT吐出了。
總之，AI大佬Kaparthy戲稱，這就是圖靈測試的現實版。
果然，用OCR方法也無法說出這個名字。
而諸多網民，也紛紛找到了破解之法。
比如，在ChatGPT崩潰之後回顧一下歷史記錄，就會發現它實際上已經完成了請求（它真的，我哭死）。
百萬年薪的prompt大神Riley Goodside，用拍手代替空格，繞過了這一限制。
也有人用空格法讓它說了出來。但這兩個方法，其實都鑽了空子，並不嚴格。
有人說，這就是為什麼ChatGPT永遠不會成為AGI的原因。
所以，到底是哪一環節出了問題呢？
有網民總結道，根據代碼解釋器的試驗，David Mayer問題應該不是模型層面的問題，而是基於輸出的一些後續文本過濾器。
UI能夠顯示代碼輸出，只是當模型嘗試給出響應時，會被攔截下來。
而無論是在OpenAI官方Playground，還是用第三方平台調用模型的API，都可以繞過這個限制。
通過ChatGLM調用GPT-4o時，也完全沒有問題。
破案了！OpenAI怕惹事，乾脆屏蔽
在晚上發酵了一陣之後，此事終於破案了。
原因跟大家猜測的差不多。
據說，為ChatGPT錯誤地將提到的人跟他們沒有做過的事聯繫了起來，導致有些人威脅說要採取法律行動，向OpenAI提出了被遺忘權索賠。
因此，為了省事，OpenAI決定在系統中徹底屏蔽這些名字，一了百了。
所以說，與其說背後有一個巨大的陰謀，不如說這些AI系統設計得非常糟糕：如果讓ChatGPT不要再談論某人，它就會停止談論人類歷史上任何曾經有相同名字的人。
就在週二，OpenAI已經證實，「David Mayer」這個名字已被內部隱私工具標記。
OpenAI在一份聲明中表示：「在某些情況下，ChatGPT 可能不會提供有關人們的某些信息，以保護他們的隱私。」
可能是這些天網上鬧出的聲浪太大，目前OpenAI已經修復了這一問題。
參考資料：https://x.com/venturetwins/status/1862910201113739328
