兒童手錶問答毀三觀暴露了哪些問題?

【#兒童手錶問答毀三觀暴露了哪些問題#?】近日,有家長在社交媒體爆料稱,女兒使用360手錶的「語音問答」功能,向手錶提問「中國人是世界上最聰明的人嗎」,手錶給出的答案把她和家裡人都嚇到了:「因為中國人小眼睛、小鼻子、小嘴、小眉毛、大臉,從外表上顯得腦袋在所有人種里最大……」

這樣的回答屬實「毀三觀」,但這還不是孤例,測試發現,這款兒童手錶還有「四大發明是捏造的」等雷人回答。對此,360集團董事長周鴻禕發文道歉,稱出現問題的這款手錶是舊版本,沒有裝入公司的大模型;它不是通過人工智能,而是通過抓取互聯網公開網站上的信息來回答問題;正在將軟件升級到人工智能版本。

但問題是,正如網民所質疑的,如果沒有家長髮現並爆料,企業是不是永遠也「發現」不了這一問題?對於兒童電話手錶提供的內容,即使是抓取網站上的信息,也應該有規範的語料庫、完善的審核把關機制。

此前,電話手錶、學習機等兒童電子產品已經多次爆出內容問題。比如,某知名品牌電話手錶被曝「誘導未成年人消費」、某平板電腦「自帶應用市場推薦涉黃涉暴內容」等。專為兒童設計的電子產品,提供的內容卻如此「兒童不宜」,實在令人難以理解,更令廣大家長深深擔憂。

事後的整改、致歉當然是必須的,更要追問的是,這些內容是怎麼推送到未成年用戶面前的,是技術漏洞還是管理疏忽?是審核過程中的「漏網之魚」還是根本沒有審核機制?

兒童手錶企業售賣的固然是手錶這一硬件,但其中搭載的軟件以及軟件提供的內容,也同樣是手錶提供的服務。不能一邊宣傳手錶的「智能」,以及對兒童學習的輔助功能,另一邊提供的卻是不良信息,甚至試圖用打「擦邊球」的內容來吸引用戶。

根據中國產業研究院發佈的《2022—2027年中國兒童智能手錶行業深度調研及投資前景預測研究報告》,目前智能兒童手錶的市場普及率約為30%。也就是說,大概每3個孩子中,就有1個有電話手錶。面對如此龐大的用戶市場,不能亂象頻發、野蠻生長。企業應當承擔起相應的責任,切實保護未成年人信息安全。

不久前,中央網信辦啟動「清朗·2024年暑期未成年人網絡環境整治」專項行動,其中特別提到「設備自帶APP包含可能影響未成年人身心健康的內容,對第三方APP提供的信息內容審核把關不嚴,存在不良導向內容」等問題。相關企業不能總等著監管部門、消費者來發現問題,該有自查自糾的自覺。

還要提醒的是,儘管人工智能大模型的應用越來越廣泛,但AI也不是萬能的,產品、服務背後的關鍵還是人,「將軟件升級到人工智能版本」後,同樣不能忽略內容把關。

兒童產品就該有兒童產品的樣子,甚至在各方面應該有比普通產品更嚴格的標準,不光要有智能的硬件,更要有安全的軟件和服務。360兒童手錶的此次「翻車」也再次提醒,企業要及時給兒童智能設備裝上安全閥門,相關部門也應將這類產品納入常態化監管範圍,防止不良內容誤導青少年。