ChatGPT 新圖像生成器可輕鬆生成逼真的假收據，OpenAI 回應

IT之家 4 月 1 日消息，上個月 ChatGPT 的 4o 模型迎來了新的原生圖像生成器，該生成器在圖像內生成文本方面表現出色。然而，這一技術進步卻引發了新的問題。人們已經開始利用它來生成假餐廳收據，這可能為欺詐者又添了一把利器。

社交媒體用戶、風險投資家德迪・達斯在 X 平台上發佈了一張他聲稱是用 4o 生成的舊金山一家真實牛排餐廳的假收據照片。隨後，其他人也成功複製出了類似的結果，甚至有人添加了食物或飲料汙漬，讓收據看起來更加逼真。IT之家注意到，最逼真的例子之一來自法國，一名領英用戶發佈了一張當地餐飲連鎖店的皺巴巴的 AI 生成收據。

TechCrunch 也對 4o 進行了測試，併成功生成了一張舊金山蘋果蜂餐廳的假收據。不過，他們的嘗試存在一些明顯的破綻，比如總金額使用了逗號而不是句號，而且數字加起來也不對，但欺詐者很容易通過照片編輯軟件或更精確的提示詞來快速修改。

顯而易見，如此輕鬆地生成假收據為欺詐行為帶來了巨大的機會。很容易想像，這種技術可能會被不法分子用來為完全虛構的費用「報銷」。

OpenAI 發言人泰亞・基斯琴森稱，他們所有的圖像都包含表明是由 ChatGPT 生成的元數據。基斯琴森還表示，當用戶違反使用政策時，OpenAI 會採取行動，並且他們一直在從實際使用和反饋中學習。

當被問及 ChatGPT 為何允許人們生成假收據，以及這是否符合 OpenAI 禁止欺詐的使用政策時，基斯琴森回應稱，OpenAI 的「目標是儘可能給予用戶最大的創作自由」，並且假 AI 收據也可以用於非欺詐場景，比如「教導人們金融知識」，以及創作原創藝術作品和產品廣告。

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。