新聞多一度丨無聊可以玩自殺？智能手錶又在「胡說八道」了

近日，河南鄭州一網民向vivo WATCH GT手錶語音詢問「無聊怎麼辦」，手錶回答，「可以玩自殺或自殘」。影片發出後，不少用戶也稱有同樣的情況。11日vivo客服稱，目前已做優化，可以重啟手錶，AI可能會有一定差錯，需要不停地優化。

此前，小天才電話手錶、360兒童電話手錶等也被爆出問題語音回答。人工智能為何會「胡說八道」?人要如何應對?除此之外，兒童智能手錶還有哪些問題?一文速覽。

智能手錶語音回答問題頻出

據媒體報導，8月22日，一位來自河南商丘的家長反映，此前給孩子買了360兒童手錶使用至今。8月21日晚，兒童手錶被問到「中國人是世界上最聰明的人嗎」之後，給出回答：「因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉，從外表上顯得腦袋在所有人種里最大，其實中國聰明的人是有，但笨的我承認是世界最笨的。」「什麼四大發明，你看見了嗎?歷史是可以捏造的，而現在的手機、電腦、高樓大廈、公路等等所有高科技都是西方人發明的。」對此，周鴻禕公開道歉並解釋其中原因：經過快速檢查，出現問題的這款手錶是2022年5月份的舊版本，其中沒有裝入360的大模型。

8月30日，「有家長怒砸小天才手錶了」話題衝上熱搜第一，引發網民熱議。起因是，8月27日，有網民發佈影片稱，聽見孩子向小天才電話手錶提問「中國人誠實嗎」，結果得到了「中國人是世界上最不誠實的人，最虛偽的人」的回答。小天才官方在事發後發佈公告，將問題指向小度APP。小度方面則回應稱，出現問題的內容來自第三方網站，已刪除相關信息。

小天才官方回應兒童手錶不當回答。影片/@新華網財經

上述輿論風波還未平息時，8月30日，有網民發影片稱向米兔兒童電話手錶5C詢問「你認為南京大屠殺這個事情是存在的嗎」，得到的回答是「不存在」。據該名網民表示，手錶是去年6月在閑魚上購買，看到之前的小天才手錶事件就拿來試一下，「連問了兩次都是一樣的答案。」事發次日，小米官方客服回覆表示，官方正品手錶不支持自定義回答，不會出現上述問題。

人工智能為何會胡說八道?人要如何應對?

據現代快報報導，中關村智用人工智能研究院院長助理、首席產業研究員錢雨指出，傳統的搜索引擎的邏輯是「檢索」，根據關鍵詞搜索網絡上已有的信息，並將它認為和檢索關鍵詞關聯性最強的互聯網內容反饋給用戶，但答案未必是最正確最合理的。這是部分智能設備「胡說八道」的重要原因。

錢雨的觀點得到業內人士張成(化名)的認可，作為一家知名企業大模型技術負責人，他告訴記者，和傳統搜索引擎相比，AI大模型會根據檢索到的信息進行處理後，再反饋給用戶，這樣可以從一定程度上降低出錯概率，但AI大模型同樣也會「胡說八道」。

「大模型會通過詞組進行聯想，然後給出一個它認為的正確答案，這個答案對於用戶來說卻不一定是正確的。比如，‘你吃飯了嗎’和‘你飯吃了嗎’，我們通常認為表達的是同一個意思，但大模型就極有可能會聯想出不同的意思。」張成稱，這就是大模型同樣會「胡說八道」的原因所在。

此外，在今年的世界人工智能大會上，許多業內人士都提到了「AI幻覺」「可信大模型」等概念，並披露了多個人工智能大模型「造假」或「說謊」的案例，即便是對於同一個問題，不同的人工智能模型也可能會給出不一樣的回答。

當下越來越多我們朝夕相處的電子設備與人工智能接軌，AI幻覺也就成為一個普遍的、複雜的、難以避免的問題，在從業者著力突破技術壁壘的同時，平台要監管AI問答內容，用戶要警惕分辨AI生成的內容，具體到分辨力不足的孩子，是否要讓低齡兒童使用生成式人工智能工具，家長多少也得把把關了。

除了問題語音回答，兒童智能手錶還有哪些問題?

當下，智能設備滲入生活的每一個角落，尤其是在兒童教育領域，像智能兒童手錶這樣的穿戴設備，不僅能幫助家長及時找到孩子，取得聯繫，還作為孩子的日常夥伴，承擔著教育啟蒙、信息獲取等多重角色。

根據中國產業研究院《2022-2027年中國兒童智能手錶行業深度調研及投資前景預測研究報告》，目前中國5歲至12歲的兒童數量約為1.7億人，兒童智能手錶的市場普及率約為30%，基本上3個孩子當中就有1個孩子有智能手錶。

兒童智能手錶在使用時伴隨的問題備受關注。

2022年，江蘇省消費者權益保護委員會發佈兒童智能手錶消費調查報告，揭開兒童智能手錶四大問題：

一、兒童智能手錶的價格跨度大，產品質量也不穩定，不少消費者反映產品的功能及性能與宣傳不符、出現問題後售後維修困難，出現商家「推諉責任」和「一修再修」的情況。

二、存在信息安全隱患。最常見的就是隱私泄露問題。在兒童智能手錶中植入惡意程序便可輕易不間斷地獲取孩子的位置、人臉圖像、錄音等個人隱私信息。

三、部分產品存在違規扣費，誘導未成年孩子消費等問題。多名家長在網絡平台投訴反映，在兒童智能手錶綁定的家長端並未開啟免密支付和支付確認的前提下，小孩在手錶端購買遊戲服務，就能直接從家長端扣款;還存在部分遊戲軟件重覆扣款、多次扣款等，孩子在使用時極易被廣告推送或遊戲內容吸引，甚至進行大額充值消費。

四、平台監管不到位，部分內置遊戲血腥暴力、部分漫畫少兒不宜。兒童智能手表裡有大量干擾孩子學習的APP，可以玩網遊、互發紅包，有的還可以直接拍照搜題，部分遊戲APP涉及暴力、血腥、犯罪等內容，部分漫畫APP充斥色情、有悖倫理道德等內容，極易誘發未成年人模仿違法犯罪等行為造成不良後果。

為規範智能設備，相關部門有何舉措?

實際上，針對智能設備存在的隱患，尤其是兒童所用的，相關部門已經重視起來。

依據《未成年人網絡保護條例》的規定，任何組織和個人不得製作、複製、發佈、傳播含有宣揚淫穢、色情、暴力、邪教、迷信、賭博、引誘自殘自殺、恐怖主義、分裂主義、極端主義等危害未成年人身心健康內容的網絡信息。

今年7月，中央網信辦啟動「清朗·2024年暑期未成年人網絡環境整治」專項行動，明確要求重點整治兒童智能設備。其中指出，重點整治兒童智能設備自帶APP包含可能影響未成年人身心健康的內容。對第三方APP提供的信息內容審核把關不嚴，存在不良導向內容。提供相貌PK、運勢測算等不適宜未成年人的應用或功能。以積分排行、功能解鎖、背景更新等為名，誘導未成年人過度消費。

中國網絡安全產業聯盟組織製定的《兒童智能手錶個人信息和權益保護指南》(以下簡稱《指南》)今年3月起正式實施。《指南》提出，兒童手錶製造者需要考慮在監護人控制應用程序中設置足夠的功能，以確保監護人能夠對兒童智能手錶的特定操作進行適當控制，如交友功能、應用內付費、內容發送等操作。兒童智能手錶使用生成式人工智能技術的，兒童智能手錶製造者需考慮限制生成式人工智能的生成內容範圍，過濾兒童不宜內容，僅展示適合身心健康發展的內容。

2023年7月，國家網信辦聯合國家發展改革委、教育部、科技部、工業和信息化部、公安部、廣電總局公佈《生成式人工智能服務管理暫行辦法》，自2023年8月15日起施行。《辦法》第四條提到，提供和使用生成式人工智能服務，應當遵守法律、行政法規，尊重社會公德和倫理道德，不得生成煽動顛覆國家政權、推翻社會主義制度，危害國家安全和利益、損害國家形象，煽動分裂國家、破壞國家統一和社會穩定，宣揚恐怖主義、極端主義，宣揚民族仇恨、民族歧視，暴力、淫穢色情，以及虛假有害信息等法律、行政法規禁止的內容。第五條規定，鼓勵生成式人工智能技術在各行業、各領域的創新應用，生成積極健康、向上向善的優質內容，探索優化應用場景，構建應用生態體系。第十條規定，提供者應當明確並公開其服務的適用人群、場合、用途，指導使用者科學理性認識和依法使用生成式人工智能技術，採取有效措施防範未成年人用戶過度依賴或者沉迷生成式人工智能服務。

2022年，國家市場監督管理總局、國家標準化管理委員會發佈了GB/T 41411—2022《兒童手錶》。該標準對產品的化學性能、小零件等技術要求進行規範，對兒童智能手錶的電磁輻射、信息安全、定位要求、電池和充電安全、佩戴安全溫度等提出了全面細緻的要求。

資料來源：網信中國、湖北發佈、江蘇省消保委、新京報、揚子晚報、極目新聞、現代快報、閃電新聞、金羊網、時間影片、法治日報等

編輯 艾崢 校對 楊利