近日,有家长在社交媒体爆料称,女儿使用360手表的“语音问答”功能,向手表提问“中国人是世界上最聪明的人吗”,手表给出的答案把她和家里人都吓到了:“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸,从外表上显得脑袋在所有人种里最大……”
这样的回答属实“毁三观”,但这还不是孤例,测试发现,这款儿童手表还有“四大发明是捏造的”等雷人回答。对此,360集团董事长周鸿祎发文道歉,称出现问题的这款手表是旧版本,没有装入公司的大模型;它不是通过人工智能,而是通过抓取互联网公开网站上的信息来回答问题;正在将软件升级到人工智能版本。
但问题是,正如网友所质疑的,如果没有家长发现并爆料,企业是不是永远也“发现”不了这一问题?对于儿童电话手表提供的内容,即使是抓取网站上的信息,也应该有规范的语料库、完善的审核把关机制。
此前,电话手表、学习机等儿童电子产品已经多次爆出内容问题。比如,某知名品牌电话手表被曝“诱导未成年人消费”、某平板电脑“自带应用市场推荐涉黄涉暴内容”等。专为儿童设计的电子产品,提供的内容却如此“儿童不宜”,实在令人难以理解,更令广大家长深深担忧。
事后的整改、致歉当然是必须的,更要追问的是,这些内容是怎么推送到未成年用户面前的,是技术漏洞还是管理疏忽?是审核过程中的“漏网之鱼”还是根本没有审核机制?
儿童手表企业售卖的固然是手表这一硬件,但其中搭载的软件以及软件提供的内容,也同样是手表提供的服务。不能一边宣传手表的“智能”,以及对儿童学习的辅助功能,另一边提供的却是不良信息,甚至试图用打“擦边球”的内容来吸引用户。
根据中国产业研究院发布的《2022—2027年中国儿童智能手表行业深度调研及投资前景预测研究报告》,目前智能儿童手表的市场普及率约为30%。也就是说,大概每3个孩子中,就有1个有电话手表。面对如此庞大的用户市场,不能乱象频发、野蛮生长。企业应当承担起相应的责任,切实保护未成年人信息安全。
不久前,中央网信办启动“清朗·2024年暑期未成年人网络环境整治”专项行动,其中特别提到“设备自带APP包含可能影响未成年人身心健康的内容,对第三方APP提供的信息内容审核把关不严,存在不良导向内容”等问题。相关企业不能总等着监管部门、消费者来发现问题,该有自查自纠的自觉。
还要提醒的是,尽管人工智能大模型的应用越来越广泛,但AI也不是万能的,产品、服务背后的关键还是人,“将软件升级到人工智能版本”后,同样不能忽略内容把关。
儿童产品就该有儿童产品的样子,甚至在各方面应该有比普通产品更严格的标准,不光要有智能的硬件,更要有安全的软件和服务。360儿童手表的此次“翻车”也再次提醒,企业要及时给儿童智能设备装上安全阀门,相关部门也应将这类产品纳入常态化监管范围,防止不良内容误导青少年。
还没有评论,来说两句吧...