違禁詞「逼瘋」家長，兒童電話手錶干預邊界在哪

▲廠商對兒童手錶的內容進行干預可以理解，但干預總要有個限定邊界。圖/IC photo

據媒體報導，近日，在社交媒體上，有部分家長反映，自己通過小天才電話手錶App跟孩子聊天時，「我是你媽」等表述被系統提示「可能含有不適宜內容」，令人哭笑不得。

對於有經驗的中國網民來說，遭遇這些毫不奇怪，肯定是因為家長在使用過程中，其發佈的內容觸碰了電話手機系統後台設置的敏感詞，導致被屏蔽。然而，即便在保護兒童這個超級正確的目標下，出現這種明顯荒誕的結果仍然顯得很不正常。廠商對兒童手錶的內容進行干預可以理解，但干預總要有個限定邊界。廠商又並非監管部門，這種明顯影響到用戶日常使用的干預行為已經侵犯到消費者的合法權益。

針對輿論的疑惑，廠商官方客服表示，因為電話手錶使用的群體大多是孩子，小天才電話手錶設計了一些保護孩子的功能。「是想創造一個綠色的溝通環境，一些敏感詞彙或者不文明用語都是發送不出去的。」但從實際情況看，或許「綠色」在表面上實現了，但「溝通環境」卻遭到嚴重破壞，未免本末倒置。

就像一些網民評論所說，把內容審核都交給無腦屏蔽系統（連AI都不是），廠商一可以節約成本，二可以推卸責任，但犧牲的卻是用戶體驗。

需要指出的是，小天才電話手錶粗暴設置敏感詞一事並非孤例，它實際上代表了一種普遍現象。近年來，諸多社交平台幾乎都加大了利用人工智能進行內容審核的力度，而這些人工智能又不夠聰明，結果導致笑料、段子頻出。用戶體驗還不如以前「微博小秘書」時代進行人工審核的水平。

內容審核事關內容安全和用戶體驗兩個重要方面，以目前的AI技術水平，想靠技術手段簡單解決的結果很可能就是兩個方面都做不好。

所謂道高一尺，魔高一丈，AI大範圍屏蔽關鍵詞的結果之一就是使當下互聯網上充斥了大量的「黑話」，講的和聽的都知道在表達什麼，而其內容大部分也並非不合法，只是為了應付AI審核系統，包括平台在內大家都在做無用功，可能真正被困惑住的只有百年後的歷史研究者。

從目前情況看，市場主體對互聯網內容進行干預必不可少，但在干預的同時應兼顧互聯網用戶體驗，同時亦應時刻牢記干預的目的所在。如果忘卻初心而將之變成一種應付程序和形式主義，類似發生在兒童手錶上的笑話肯定還將層出不窮。

撰稿 / 信海光（專欄作家）