别让儿童电话手表违禁词“逼疯”家长 违禁词“逼疯”家长，儿童

别让儿童电话手表违禁词“逼疯”家长 违禁词“逼疯”家长，儿童电话手表干预边界在哪|新京报快评， 

别让儿童电话手表违禁词“逼疯”家长

■ 视点

据报道，近日，有部分家长反映，自己通过小天才电话手表App跟孩子聊天时，“我是你妈”等表述被系统提示“可能含有不适宜内容”，令人哭笑不得。

对于有经验的网友来说，遭遇这些毫不奇怪，肯定是因为家长在使用过程中，其发布的内容触碰了电话手机系统后台设置的敏感词，导致被屏蔽。然而，即便在保护儿童这个超级正确的目标下，出现这种明显荒诞的结果，仍显得不正常。

厂商对儿童手表的内容进行干预可以理解，但干预总要有个限定边界。厂商并非监管部门，这种明显影响到用户日常使用的干预行为，已经侵犯了消费者的合法权益。

对此，厂商官方客服表示，“是想创造一个绿色的沟通环境，一些敏感词汇或者不文明用语都是发送不出去的。”但从实际情况看，或许“绿色”在表面上实现了，但“沟通环境”却遭到严重破坏，未免本末倒置。

就像一些网友评论所说，把内容审核都交给无脑屏蔽系统，厂商一可以节约成本，二可以推卸责任，但牺牲的却是用户体验。

而小天才电话手表粗暴设置敏感词并非孤例，它实际上代表了一种普遍现象。近年来，诸多社交平台加大了利用人工智能进行内容审核的力度，而这些人工智能又不够聪明，结果导致笑料频出。

内容审核事关内容安全和用户体验两个重要方面，以目前的AI技术水平，想靠技术手段简单解决的结果很可能就是两个方面都做不好。

所谓道高一尺，魔高一丈，AI大范围屏蔽关键词的结果之一就是使当下互联网上充斥了大量的“黑话”，讲的和听的都知道在表达什么。而其内容大部分也并非不合法，只是为了应付AI审核系统。

从目前情况看，市场主体对互联网内容进行干预必不可少，但在干预的同时应兼顾互联网用户体验，同时亦应时刻牢记干预的目的所在。如果忘却初心而将之变成一种应付程序和形式主义，类似发生在儿童手表上的笑话肯定还将层出不穷。

□信海光（专栏作家）


违禁词“逼疯”家长，儿童电话手表干预边界在哪|新京报快评

▲厂商对儿童手表的内容进行干预可以理解，但干预总要有个限定边界。图/IC photo

据媒体报道，近日，在社交媒体上，有部分家长反映，自己通过小天才电话手表App跟孩子聊天时，“我是你妈”等表述被系统提示“可能含有不适宜内容”，令人哭笑不得。

对于有经验的中国网友来说，遭遇这些毫不奇怪，肯定是因为家长在使用过程中，其发布的内容触碰了电话手机系统后台设置的敏感词，导致被屏蔽。然而，即便在保护儿童这个超级正确的目标下，出现这种明显荒诞的结果仍然显得很不正常。厂商对儿童手表的内容进行干预可以理解，但干预总要有个限定边界。厂商又并非监管部门，这种明显影响到用户日常使用的干预行为已经侵犯到消费者的合法权益。

针对舆论的疑惑，厂商官方客服表示，因为电话手表使用的群体大多是孩子，小天才电话手表设计了一些保护孩子的功能。“是想创造一个绿色的沟通环境，一些敏感词汇或者不文明用语都是发送不出去的。”但从实际情况看，或许“绿色”在表面上实现了，但“沟通环境”却遭到严重破坏，未免本末倒置。

就像一些网友评论所说，把内容审核都交给无脑屏蔽系统（连AI都不是），厂商一可以节约成本，二可以推卸责任，但牺牲的却是用户体验。

需要指出的是，小天才电话手表粗暴设置敏感词一事并非孤例，它实际上代表了一种普遍现象。近年来，诸多社交平台几乎都加大了利用人工智能进行内容审核的力度，而这些人工智能又不够聪明，结果导致笑料、段子频出。用户体验还不如以前“微博小秘书”时代进行人工审核的水平。

内容审核事关内容安全和用户体验两个重要方面，以目前的AI技术水平，想靠技术手段简单解决的结果很可能就是两个方面都做不好。

所谓道高一尺，魔高一丈，AI大范围屏蔽关键词的结果之一就是使当下互联网上充斥了大量的“黑话”，讲的和听的都知道在表达什么，而其内容大部分也并非不合法，只是为了应付AI审核系统，包括平台在内大家都在做无用功，可能真正被困惑住的只有百年后的历史研究者。

从目前情况看，市场主体对互联网内容进行干预必不可少，但在干预的同时应兼顾互联网用户体验，同时亦应时刻牢记干预的目的所在。如果忘却初心而将之变成一种应付程序和形式主义，类似发生在儿童手表上的笑话肯定还将层出不穷。

撰稿 / 信海光（专栏作家）

编辑 / 迟道华

发布于：北京