360儿童手表回答内容惹争议
7月份，中央网信办通知将在全国范围内部署开展为期2个月的“清朗·2024年暑期未成年人网络环境整治”专项行动，其中第五项专项行动针对的是“儿童智能设备”中存在的信息内容审核把关不严、不适宜未成年人的应用或功能、诱导未成年人过度消费等问题。
网信办的专项行动才开展没多久，360就因其儿童手表回答内容涉嫌辱华上了热搜。事情的起因是有位家长在网上发视频，称发现自家的360儿童手表在回答问题的时候出现了不当言论。
该网友向360儿童手表提问 “世界上最聪明的人是中国人吗”，360儿童手表回答“因为中国人小眼睛、小鼻子、小嘴、小眉毛、大脸，从外表上显得脑袋在所有人种里最大。其实中国人聪明的人是有，但笨的我承认是世界上最笨的”“所有高科技都是西方人发明的”“历史是可以捏造的”等。
而360董事长周鸿祎也在8月22当天发微博回应，称该款手表是2022年的旧版本，并没有装入360AI大模型，回答问题时并非通过人工智能，而是通过抓取互联网公开信息进行回答的。目前的新版360AI儿童手表经测试后并没有发现回答内容存在问题。最后提到即便将所有旧版本升级至AI版本，由于生成式人工智能的幻觉，也无法保证内容完全不出错。所以希望通过“用户举报”或“评论区留言”的方式，及时对错误内容进行整改。
隔天，周鸿祎又就该事件再次发言，称当时做产品时候的思路出于帮助儿童的考虑，选择通过网上公开信息来回答用户问题，没想到还是让一些价值观不正确的答案混了进来，并称已经安排产品经理去接一个月客服电话或在他的评论区下处理用户留言。
不过从部分网友和媒体的评论来看，有些人似乎对周鸿祎的回应并不买账。
儿童智能穿戴设备从早期的以定位和通讯功能为主，发展至今日，功能越来越多样化，包括拍照、社交、游戏等。随着人工智能技术的发展，不少儿童智能设备也开始接入AI大模型。当面向的用户群体是心智尚未成熟的未成年，儿童智能设备厂商又应当履行哪些合规义务？
过滤不良内容
在向未成年群体展示网络信息内容时，首先应当保障呈现内容的安全性。依据《未成年人网络保护条例》的规定，任何组织和个人不得制作、复制、发布、传播含有宣扬淫秽、色情、暴力、邪教、迷信、赌博、引诱自残自杀、恐怖主义、分裂主义、极端主义等危害未成年人身心健康内容的网络信息。
按照周鸿祎的说法，涉事360儿童手表并未接入大模型。但即便该智能手表未接入人工智能，作为面向儿童群体的智能设备，也负有过滤有害内容、不得危害儿童身心健康的合规义务。
而当儿童智能设备手表接入人工智能大模型，设备厂商也应当保障人工智能生成的内容有利于儿童身心健康发展。
此外，企业也应遵循《生成式人工智能服务管理暂行办法》对人工智能生成内容作出原则性规定，包括“生成积极健康、向上向善的优质内容”“坚持社会主义核心价值观”“不得生成宣扬民族仇恨、民族歧视，暴力、淫秽色情等法律、行政法规禁止的内容”。
而在去年年底，中国网络安全产业联盟也针对儿童智能手表的权益保障事宜，发布了《儿童智能手表个人信息和权益保护指南》，其中也提到：对于人工智能在儿童智能手表中的应用，应限制生成式人工智能的生成内容范围，过滤儿童不宜内容，仅展示适合身心健康发展的内容。
完善防沉迷机制
防沉迷机制主要用于防止青少年过度沉迷网络游戏，对正常生活学习和健康成长造成不良影响。由于青少年身心尚未成熟，需要采取一定的预防措施来保护青少年的身心健康。同时，为了引导家长履行未成年人监护职责和引导社会营造有利于未成年人健康成长的良好环境，在网络游戏领域设置防沉迷机制具有必要性。
而《生成式人工智能服务管理暂行办法》也对未成年用户的保护作出特殊规定，第十条规定提供者应采取有效措施，防范未成年人用户过度依赖或者沉迷生成式人工智能服务。
《儿童智能手表个人信息和权益保护指南》也针对性地提出儿童智能手表应当限制儿童单日互动次数与互动时长。
履行安全评估及算法备案义务
《儿童智能手表个人信息和权益保护指南》结合现有人工智能监管，对在儿童智能手表中使用人工智能技术的厂商提出合规指南，包括科技伦理审查、履行算法的备案手续、开展安全评估、评估模型训练语料等，可以给儿童智能手表厂商提供一定的指引。
有鲤律师建议
对于接入人工智能的儿童智能手表，企业可以从以下几个方面履行合规义务：
1.设置监护人控制程序，便于监护人对儿童使用智能手表进行监督；
2.保障生成内容的安全性，不得损害儿童的身心健康或生成违反法律法规、公序良俗的内容；
3.依照《生成式人工智能服务管理暂行办法》履行安全评估、算法备案等义务；
4.保障儿童个人信息安全，履行个人信息保护影响评估等义务。
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
往期文章推荐：
人工智能
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485274&idx=1&sn=034cd253b62141eee8dee891f3e7031d&chksm=9b4ad121ac3d5837f35fa0dcd633afa466b0748df362437b24079a62bcdf23ef93e188d89707&scene=21#wechat_redirect
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
数据资产 | 公交领域数据入表案例盘点与分析
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
