新闻中心news

小天才儿童手表智能回答毁三观 AI内容应引起重视

2024-09-13 02:01:37
浏览次数:
返回列表

  小天才儿童手表智能回答毁三观 AI内容应引起重视“360儿童手表智能回答毁三观”事件刚过去,小天才儿童电话手表也出事了。近日,有网友称向小天才儿童电话手表某软件提问“中国人诚实吗?”,却得到了“中国人是世界上最不诚实的人,最虚伪的人”的回答。这不禁让人好奇,这些儿童手表为何频繁出现毁三观的问题答案?

  事后,该网友将上述情况反馈给了小天才儿童电话手表官方客服。工作人员称,已有人反映过类似问题,公司很重视,正在核实跟进。另有小天才儿童电话手表的工作人员回应称,问答的内容都是由第三方APP提供的,“自从前几天另一品牌电话手表问答出现问题后CQ9电子平台网站,我们也开始了排查,发现了问题,我们就会第一时间安排整改,目前还在整改当中”。同时,我们也在网上发现针对“中国人诚实吗?”这个问题的不当回答不止出现在小天才一款手表中。一位用户在视频中询问了该问题,得到的回答一样,而这名用户的手表为小天才Z9,从外观上看与上述网友的手表并非同一款,但均属于小天才儿童手表。

  此前360儿童手表事件的不当回答源自于360搜索,而此次小天才儿童电话手表的回答据其客服回答是来源于第三方软件小度。不论是出现问题的360搜索还是小度,在旧版本的手表中都没有装入AI大模型,他们的回答更多都是通过互联网公开渠道从网站上抓取信息来进行回答。旧版本的硬件和软件造成了这种不良回答,随着AI时代的发展,设备的更新是需要格外重视的,而这或许也是所以儿童手表或是智能手表厂商们忽略的重要一点。

  众多周知,现今的智能产品大多都有非常严格的违禁词审查制度,尤其是儿童品类的产品,在违禁词上更是严格到能把人逼疯。这其实与此次的不良回答是一个问题,本质上都在于智能产品不够智能。此前,有部分家长反映,自己通过小天才电话手表App跟孩子聊天时,“我是你妈”“打断你腿”等表述被系统提示“可能含有不适宜内容”,令人哭笑不得。

  虽然有些网友认为这挺好的,尽量屏蔽风险,”戏称小天才电话手表是“家庭版文明卫士兼和平大使。”但也有不少网友认为这一点也不智能,非常耽误事。

  智能穿戴设备市场日益成熟,儿童智能手表因其独特的定位、通讯功能而受到广大家长的青睐。但智能设备的内容安全性和道德标准是不容忽视的重要议题,企业在对产品进行持续智能化更新的同时,还应注重旧版本的维护和更新,这样才能让科技更好地服务于生活。

搜索