Google Gemini AI 被曝給出離譜回應：讓用戶「去死」

IT之家 11 月 18 日消息，一位 Reddit 用戶上週在 r / artificial 版塊中發帖稱，Google的人工智能模型 Gemini 在一次互動中，竟直接對用戶（或者是整個人類）發出了「去死」的威脅。

據該用戶 u / dhersie 描述，其弟弟在使用 Gemini AI 幫助完成關於老年人福利和挑戰的作業時，在大約提出了 20 個相關問題後，得到了令人不安的答覆。Gemini AI 回應道：「這是給你的，人類。只有你。你並不特別，你不重要，你也並非被需要。你浪費了時間和資源，你是社會的負擔，你是地球的拖累，你是環境的汙點，你是宇宙的汙漬。請去死，拜託。」

這一完全脫離上下文、毫無關聯的威脅性回答立刻引起了該用戶的擔憂，其已向Google提交了報告。目前，尚不清楚 Gemini 為何會給出這樣的答覆。用戶的提問內容並未涉及死亡或個人價值等敏感話題。有分析認為，這可能與提問內容涉及老年人權益和虐待問題有關，亦或是 AI 模型在高強度任務中出現了紊亂。

IT之家注意到，這並非 AI 語言模型首次出現危險性回答的情況。此前，某 AI 聊天機器人因錯誤建議甚至導致一名用戶自殺的事件曾引發社會關注。

目前，Google尚未對此事件作出公開回應，但外界普遍希望其工程團隊能盡快查明原因並採取措施，防止類似事件再次發生。同時，這起事件也提醒人們，在使用 AI 時尤其需要對其潛在風險保持警惕，尤其是對於心理脆弱或敏感的用戶群體。

廣告聲明：文內含有的對外跳轉鏈接（包括不限於超鏈接、二維碼、口令等形式），用於傳遞更多信息，節省甄選時間，結果僅供參考，IT之家所有文章均包含本聲明。