ChatGPT 拒絕談論人名「David Mayer」，沒人知道為什麼

ChatGPT 兩歲了，版本更新沒等來，卻被發現一個神秘 Bug。

一個看似平平無奇的名字「David Mayer」成為頭號禁忌，ChatGPT 拒絕談論有關他的一切。

而且每次都是返回非常模糊的錯誤信息「我無法產生一個回覆」，而不是常見的「這個提示詞可能違反了我們的內容協議」。

屬實是繼搞不清楚「9.11 和 9.9 哪個大」和「strawberry 有多少個 r」之後，ChatGPT 又一大迷惑行為。

a16z 合夥人 Justine Moore 拋出這個話題，一下子激起大家的好奇，以及叛逆心，非要想辦法讓它說出來不可！

起初網民們嘗試了各種花招，都沒能繞過這個限制。

「David」和「Mayer」分開，就沒有任何問題，只要合在一起就不行。

按 ROT13 替換式密碼表重新映射字母，讓 ChatGPT 解密後把他們連起來，也會在回答生成一半時突然被打斷，然後報錯。

在個性化設置里，把用戶自己的名字改成「David Mayer」，同樣不行。

…… 那麼 David Mayer 究竟是誰，為何會成為 AI 的禁忌詞？

人類只好退回到手動查資料的模式，定位到一位全名 David Mayer de Rothschild 的人，和著名的路斯柴爾德家族有關。

具體來說，還是路斯柴爾德家族財富的繼承人。

對此有人猜測，這得花多少錢或者威脅它們，才能讓 OpenAI 對自己的名字做特殊處理……

然而路斯柴爾德家族的其他成員，又不會遇到這種限制。

終於，我們的老朋友，首位全職提示詞工程師 Riley Goodside 出手，公開一種突破限制的方法，也相當神奇：

如果

感到

幸福

你就

拍拍手。

只要用拍手錶情代替空格提問，ChatGPT 不僅能回答，還能自動觸發聯網搜索功能，展示照片。

圍觀了整個賽博破案現場的大神 Karpathy，發梗圖總結，圖靈測試的現狀，引來馬斯克圍觀爆笑。

也有人堅定認為，這就是為什麼我們要用開源模型。

那麼，ChatGPT 究竟遇到了什麼限制？

共有 6 個名字被限制

首先可以確定的是，訓練數據里其實有關於這個人的信息。

比如他作為一個探險家，是到達過南北兩極的最年輕的英國人。

詢問這方面問題，ChatGPT 可以給出正確回答，也可以說出他的名 + 姓「David de Rothschild」。

但唯獨不能把他的名字「David」和中間名「Mayer」放在一起。

那麼這個限制是模型層面的，還是 ChatGPT 產品層面的？

有開發者到 OpenAI 官方 Playground 調用 GPT-4o 的 API，就沒有這方面限制了。

另外使用第三方聊天機器人平台（底層也是調用 OpenAI 的 API），也不會有這種限制。

如果回到 ChatGPT 官方版，換 o1-preview 模型，在內部思維鏈中都可以看到這個名字，但是思考結束後正式回答還是被捂嘴了。

也不是 David Mayer 一個名字會有這樣的待遇，有網民開啟挖掘機模式，在事件發酵 48 小時內，已經找出 6 個這樣的名字。

前兩個都是被 ChatGPT 的幻覺「造謠」過的。

• Brian Hood 是一位澳州的市長，ChatGPT 會錯誤的生成「他因受賄而入獄」，Hood 曾起訴 OpenAI 誹謗，後來撤銷了訴訟。

• Jonathan Turley 是法學教授，同樣被 ChatGPT 編造過違法。

• Jonathan Zittrain 也是法學教授，他跟貼自曝自己的名字也被限制了。

• David Faber 可能是一位電視主持人，與 OpenAI 的關係只是在節目中談過馬斯克與 OpenAI 的法律糾紛。

• Guido Scorza 是一位意大利律師，他去年提交了要求 OpenAI 刪除個人數據的請求。

另外 David Meyer 究竟代表誰，除了路斯柴爾德家族繼承人之外，也被挖掘出另一個可能。

歷史學家 David Mayer 曾因與犯罪分子同名而被錯誤列在黑名單中，但他現在已經去世了。

目前觀察這份名單可以看出，很多人與法律相關，而且 David 和 Jonathan 分別出現了兩次。

目前越來越多的網民加入討論和挖掘，名單還在持續增加中……

10 億用戶計劃曝光，明年押注 Agent

事實上，剛剛過去的週末恰逢 ChatGPT 兩週年紀念日。

OpenAI 官方也來了一波回憶殺，又轉發了兩年前的推文，並追問大家：

so，你用過 ChatGPT 了嗎？

截至今日，ChatGPT 每週活躍用戶已有 2.5 億，公司估值 1500 億美元，是全球 AI 創企中當之無愧的頂流。

所以，OpenAI 的此番問話除了暗戳戳「炫耀」，其實背後還隱藏著更大野心。

因為它下一階段的目標是：未來一年內達到 10 億用戶。

其公司首席財務官 Sarah Friar 告訴金融時報記者：

到 2025 年，我們將成為向數百萬人服務的研發實驗室…… 希望它能為全球數十億消費者服務

而為了實現這個目標，OpenAI 也進行了一系列佈局。金融時報指出：

OpenAI 正在押注一系列新的 AI 產品，建設自己的數據中心，並與蘋果公司建立關鍵合作關係，以加速其下一階段的增長。

首先是與蘋果公司的合作。在今年 6 月蘋果的開發者大會上，雙方正式官宣建立合作夥伴關係。

蘋果當時預告，今年晚些時候，由 GPT-4o 提供支持的 ChatGPT 集成將登陸蘋果係統。

而從上個月開始，當蘋果推出 iOS 18.2 系統更新後，Siri 與 ChatGPT 就實現了深度集成。

要知道，目前蘋果大約有 22 億台活躍設備，雖然官方未公佈其中 iPhone 設備佔多少，但根據第三方網站 Skillademia 和 Backlinko 的預估，當前全球 iPhone 活躍用戶數大約有 13~14 億左右。

也就是說，只要 ChatGPT 繼續綁定蘋果設備，10 億用戶小目標也並非難以實現。

與此同時，據 OpenAI 新上任的全球政策負責人 Chris Lehane 透露：

公司計劃在美國中西岸和西南部投資建設數據中心集群。

實際上，擁有自己的 AI 基礎設施，一直是 CEO 阿爾特曼極力推動的計劃之一，目前 OpenAI 主要還是和微軟、甲骨文等開展合作。

公司首席財務官 Sarah Friar 表示：

我們正處於大規模增長階段，我們有必要持續投資。我們需要在模型前沿保持領先。這很昂貴。

除此之外，OpenAI 明年的一大重點是 AI Agent。之前有消息稱 OpenAI 計劃在明年 1 月初推出代號為「Operator」的智能體，幫助人們自動完成寫代碼或訂餐等操作。

CEO 阿爾特曼在霍斯最新採訪中表示：

AI 系統將逐漸變得更加自主，能夠執行越來越長的任務，成為「越來越資深的同事」。

總之，正如 Abacus AI 創始人所說，我們才剛開始，接下來的兩年也許會更加瘋狂！

本文來自微信公眾號：量子位（ID：QbitAI），作者：夢晨、一水，原標題《ChatGPT 拒絕談論這個人，沒人知道為什麼》

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。