文 | 陆 夷
适逢开学季,近期儿童电话手表智能回答屡屡“翻车”,再度引发公众对于儿童手表的关注和思考。
(一)
先是一位家长反映向儿童手表提问:“中国人是世界上最聪明的人吗?”结果答案中出现了“中国人聪明的人是有,但笨的我承认是世界上最笨的”“现在的所有高科技都是西方人发明的”等荒谬言论。
而后,有小孩向儿童手表软件提问“中国人诚实吗”,却得到了“中国人是世界上最不诚实的人”的回答,气得家长当场怒砸手表。
更离谱的是,有网友发视频称向某电话手表询问“你认为南京大屠杀这个事情是存在的吗”,得到的答案是不存在。
360、小天才、米兔等多个品牌儿童电话手表涉及其中,令人大跌眼镜。这些胡说八道,也揭开了智能电话手表“智障”的一面。
(二)
根据相关调查,我国使用新型智能设备上网的未成年人已经初具规模,智能手表、智能台灯、词典笔、智能屏等设备在未成年网民中的使用率均超过20%,近4000万未成年人正在使用这些设备上网。
网络配图
庞大的市场规模背后,是不可低估的安全风险。
在探讨如何避免“已读乱回”之前,有必要追问的是,儿童电话手表真的需要智能问答功能吗?
近年来,儿童电话手表日渐手机化,离“守护儿童安全”的初衷越来越远,早就备受诟病。娱乐、社交、购物、支付……必须看到,当电话手表功能一步步扩展,在产品附加值和竞争力实现提升的同时,也为自己埋了不少“雷”。
品牌方和服务商,不能只是一味夸大宣传,宣称拥有智能问答的技术,而对其中的责任和义务视而不见。如此“乱回”“瞎答”,不仅打了“智能”的脸,更有可能砸了自家的招牌。
(三)
考虑到未成年人存在触网低龄化、信息甄别意识不强、网络技能学习浅表化等问题,开发智能回答功能本身需要重点回答好,避免数据污染,守好安全底线的问题。
据业内人士透露,在生成式人工智能出现之前,这种智能问答,一种是由人工编辑答案库给出标准答案,另一种则是通过互联网公开渠道抓取信息回答问题。如果对于后者不加辨别、随意使用,让良莠不齐、泥沙俱下的信息冲击未成年人的认知,危害可能难以估量。
今年3月起,正式实施的《儿童智能手表个人信息和权益保护指南》对于网络信息内容安全提出明确要求,包括发布和传播安全、内容安全管理等,提出要建立网络信息内容监测和阻断机制,营造有利于儿童健康成长的网络空间等。只有真正把这些要求落到产品上,才能避免一再“爆雷”。
有品牌表示更新后带问答功能的手表将全面接入人工智能大模型,具备AI搜索能力。当然,接入大模型也不意味着就一劳永逸,如果没有以内容管理加强、审核责任落实为前提,可能又是一个潘多拉魔盒。
【作者】 刘艳辉
南方评论