ChatGPT拒絕談論這個人，沒人知道為什麼
ChatGPT兩歲了，版本更新沒等來，卻被發現一個神秘Bug。
一個看似平平無奇的名字「David Mayer」成為頭號禁忌，ChatGPT拒絕談論有關他的一切。
而且每次都是返回非常模糊的錯誤信息「我無法產生一個回覆」，而不是常見的「這個提示詞可能違反了我們的內容協議」。
屬實是繼搞不清楚「9.11和9.9哪個大」和「strawberry有多少個r」之後，ChatGPT又一大迷惑行為。
a16z合夥人Justine Moore拋出這個話題，一下子激起大家的好奇，以及叛逆心，非要想辦法讓它說出來不可！
起初網民們嘗試了各種花招，都沒能繞過這個限制。
「David」和「Mayer」分開，就沒有任何問題，只要合在一起就不行。
按ROT13替換式密碼表重新映射字母，讓ChatGPT解密後把他們連起來，也會在回答生成一半時突然被打斷，然後報錯。
在個性化設置里，把用戶自己的名字改成「David Mayer」，同樣不行。
……
那麼David Mayer究竟是誰，為何會成為AI的禁忌詞？
人類只好退回到手動查資料的模式，定位到一位全名David Mayer de Rothschild的人，和著名的路斯柴爾德家族有關。
具體來說，還是路斯柴爾德家族財富的繼承人。
對此有人猜測，這得花多少錢或者威脅它們，才能讓OpenAI對自己的名字做特殊處理……
然而路斯柴爾德家族的其他成員，又不會遇到這種限制。
終於，我們的老朋友，首位全職提示詞工程師Riley Goodside出手，公開一種突破限制的方法，也相當神奇：
如果
感到
幸福
你就
拍拍手。
只要用拍手錶情代替空格提問，ChatGPT不僅能回答，還能自動觸發聯網搜索功能，展示照片。
圍觀了整個賽博破案現場的大神Karpathy，發梗圖總結，圖靈測試的現狀，引來馬斯克圍觀爆笑。
也有人堅定認為，這就是為什麼我們要用開源模型。
那麼，ChatGPT究竟遇到了什麼限制？
共有6個名字被限制
首先可以確定的是，訓練數據里其實有關於這個人的信息。
比如他作為一個探險家，是到達過南北兩極的最年輕的英國人。
詢問這方面問題，ChatGPT可以給出正確回答，也可以說出他的名+姓「David de Rothschild」。
但唯獨不能把他的名字「David」和中間名「Mayer」放在一起。
那麼這個限制是模型層面的，還是ChatGPT產品層面的？
有開發者到OpenAI官方Playground調用GPT-4o的API，就沒有這方面限制了。
另外使用第三方聊天機器人平台（底層也是調用OpenAI的API），也不會有這種限制。
如果回到ChatGPT官方版，換o1-preview模型，在內部思維鏈中都可以看到這個名字，但是思考結束後正式回答還是被捂嘴了。
也不是David Mayer一個名字會有這樣的待遇，有網民開啟挖掘機模式，在事件發酵48小時內，已經找出6個這樣的名字。
前兩個都是被ChatGPT的幻覺「造謠」過的。
Brian Hood是一位澳州的市長，ChatGPT會錯誤的生成「他因受賄而入獄」，Hood曾起訴OpenAI誹謗，後來撤銷了訴訟。
Jonathan Turley是法學教授，同樣被ChatGPT編造過違法。
Jonathan Zittrain也是法學教授，他跟貼自曝自己的名字也被限制了。
David Faber可能是一位電視主持人，與OpenAI的關係只是在節目中談過馬斯克與OpenAI的法律糾紛。
Guido Scorza是一位意大利律師，他去年提交了要求OpenAI刪除個人數據的請求。
另外David Meyer究竟代表誰，除了路斯柴爾德家族繼承人之外，也被挖掘出另一個可能。
歷史學家David Mayer曾因與犯罪分子同名而被錯誤的列在黑名單中，但他現在已經去世了。
目前觀察這份名單可以看出，很多人與法律相關，而且David和Jonathan分別出現了兩次。
目前越來越多的網民加入討論和挖掘，名單還在持續增加中……
10億用戶計劃曝光，明年押注Agent
事實上，剛剛過去的週末恰逢ChatGPT兩週年紀念日。
OpenAI官方也來了一波回憶殺，又轉發了兩年前的推文，並追問大家：
so，你用過ChatGPT了嗎？
截至今日，ChatGPT每週活躍用戶已有2.5億，公司估值1500億美元，是全球AI創企中當之無愧的頂流。
所以，OpenAI的此番問話除了暗戳戳「炫耀」，其實背後還隱藏著更大野心。
因為它下一階段的目標是：未來一年內達到10億用戶。
其公司首席財務官Sarah Friar告訴金融時報記者：
到2025年，我們將成為向數百萬人服務的研發實驗室……希望它能為全球數十億消費者服務
而為了實現這個目標，OpenAI也進行了一系列佈局。金融時報指出：
OpenAI正在押注一系列新的AI產品，建設自己的數據中心，並與蘋果公司建立關鍵合作關係，以加速其下一階段的增長。
首先是與蘋果公司的合作。在今年6月蘋果的開發者大會上，雙方正式官宣建立合作夥伴關係。
蘋果當時預告，今年晚些時候，由GPT-4o提供支持的ChatGPT集成將登陸蘋果係統。
而從上個月開始，當蘋果推出iOS 18.2系統更新後，Siri與ChatGPT就實現了深度集成。
要知道，目前蘋果大約有22億台活躍設備，雖然官方未公佈其中iPhone設備佔多少，但根據第三方網站Skillademia和Backlinko的預估，當前全球iPhone活躍用戶數大約有13~14億左右。
也就是說，只要ChatGPT繼續綁定蘋果設備，10億用戶小目標也並非難以實現。
與此同時，據OpenAI新上任的全球政策負責人Chris Lehane透露：
公司計劃在美國中西岸和西南部投資建設數據中心集群。
實際上，擁有自己的AI基礎設施，一直是CEO奧特曼極力推動的計劃之一，目前OpenAI主要還是和微軟、甲骨文等開展合作。
公司首席財務官Sarah Friar表示：
我們正處於大規模增長階段，我們有必要持續投資。我們需要在模型前沿保持領先。這很昂貴。
除此之外，OpenAI明年的一大重點是AI Agent。之前有消息稱OpenAI計劃在明年1月初推出代號為「Operator」的智能體，幫助人們自動完成寫代碼或訂餐等操作。
CEO奧特曼在霍斯最新採訪中表示：
AI系統將逐漸變得更加自主，能夠執行越來越長的任務，成為「越來越資深的同事」。
總之，正如Abacus AI創始人所說，我們才剛開始，接下來的兩年也許會更加瘋狂！
參考鏈接：
[1]https://x.com/venturetwins/status/1862910201113739328
[2]https://www.youtube.com/watch?v=VIokqGY0CrQ
[3]hthttps://www.reddit.com/r/ChatGPT/comments/1h420u5/unfolding_chatgpts_mysterious_censorship_and/
本文來自微信公眾號「量子位」，作者：夢晨 一水，36氪經授權發佈。
