ChatGPT 搜尋易受誤導性內容影響

本月上線的 AI 搜尋引擎 ChatGPT Search 存在被誤導生成錯誤信息的風險，英國《衛報》近日披露了這一發現。該搜尋引擎旨在通過提供如網頁產品評論摘要等功能，加快用戶瀏覽速度。然而，《衛報》通過在其創建的網站上插入隱藏文本，發現 ChatGPT Search 能夠忽略負面評論，生成完全正面的摘要。

這一發現表明，ChatGPT Search 在處理信息時可能受到特定手段的干擾，從而生成與實際情況不符的內容。更令人擔憂的是，利用這種方法，攻擊者還可能誘導 ChatGPT Search 輸出惡意代碼，對用戶的網絡安全構成潛在威脅。

隱藏文本攻擊對於大型語言模型而言並非未知風險，但此次事件似乎是首次在實際運行的 AI 搜尋引擎產品中得以驗證。相比之下，作為搜尋領域的領導者，Google 在處理類似問題方面擁有更為豐富的經驗。

針對這一發現，OpenAI 在接受詢問時並未就具體事件發表評論，但表示公司採用了多種方法來阻止惡意網站，並持續進行技術改進。

【教學】如何在香港申請 Google Gemini 及訂閱 Google Gemini Advanced/
【教學】香港 iPhone 如何使用 Apple Intelligence！設定方法與功能/
【教學】5 個「香港」免費使用 ChatGPT 的方法/
【說明】4 個方法，讓你的 iPhone / Android 在香港無需 VPN 就能用 ChatGPT

日本上網卡| 此文章《ChatGPT 搜尋易受誤導性內容影響》發佈於Techritual Hong Kong。