自GPT-4o作为现实版的《她》推出后，知名国产AI公司Moonshot也被爆出在海外悄悄推出了两款应用，其中一款是虚拟陪伴应用Ohai；与此同时，国内虚拟情感陪伴类AI赛道也挤得火热，已经上架的较有代表性的产品包括MiniMax的星野、阅文的筑梦岛、字节的猫箱、百度的万话、美团的Wow、Xher、冒泡鸭等等。
前不久我们在帮客户解答虚拟人产品合规问题时，也借机测评了十几款虚拟人陪伴产品。我们发现，“用户创建虚拟人”的功能存在较多的合规风险。那么，除了不方便公开讨论的敏感词屏蔽问题外，AI公司还有什么法律风险、应该做些什么才能有效规避这些风险呢？
一、“捏人”功能——AI情感陪伴产品的大势所趋
当前市面上大部分虚拟人陪伴产品，都推出用户自行创建虚拟角色的功能，叫法也各不相同，有的叫创建“梦中人”、“角色”、“崽崽”，也有的叫创建“数字生命”、“智能体”等等。而用户在创建专属虚拟人角色的时候，需要上传的信息主要有：
1.创建虚拟角色的基本资料：名字、性别、角色简介、类型、标签、可见范围等
2.创建虚拟角色的对话设置：开场白、人物设定、音色等
3.创建虚拟角色的形象资料：虚拟人形象、形象描述等（部分产品支持根据用户上传的图像生成虚拟人形象）
可以看出，在用户自建虚拟人角色的功能上，大部分产品不管是从角色外观，还是从角色的对话设定，产品开发者的思路都是在全力地满足用户的定制化需求。支持用户自建角色的功能，在很大程度上弥补了该类产品中官方角色的单一性，有效提升了用户粘度。但是针对用户创建虚拟角色的产品功能，我们在这其中也发现了不少产品存在潜在的风险。
虚拟人陪伴产品该如何规避用户创建虚拟人角色的潜在风险
（一）AIGC平台第一案对服务提供者的三点启示
在广州互联网法院宣判的全球AIGC平台第一案中，法院在认定被告侵犯原告著作权后，从以下三个方面来判断，被告作为提供人工智能服务的平台，是否尽到合理注意义务：
1.是否建立投诉举报机制
依据《生成式人工智能服务管理暂行办法》第十五条的规定，人工智能服务提供者应当建立健全投诉、举报机制。此外，《生成式人工智能服务安全基本要求》也针对建立投诉举报渠道提出了要求。
具体到本文的讨论话题之下，用户在自行创建虚拟人角色时，又可细分为两类：一类是仅涉及UGC（即用户生产内容）的情形，即产品仅支持完全依照用户上传的人物形象等信息创建虚拟人角色；另一类是涉及平台AI生成的情形，即产品将根据用户上传的角色图像，借助产品自身的模型生成最终的虚拟角色。
针对仅涉及UGC的情形：此时AI平台按照1:1创建用户自行上传的虚拟角色，不涉及平台提供AI生成服务时，此时用户创建的虚拟角色属于UGC。
在该功能下，作为提供一般网络服务的产品开发者，不管是依照《民法典》第1195条关于网络服务提供者“通知-删除”的规定，还是依照《生成式人工智能服务管理暂行办法》和《生成式人工智能服务安全基本要求》的相关规定，AI平台都应当建立投诉举报机制。较为常见的做法是产品“我的-反馈与投诉”中设置投诉举报入口。此外，也有产品在虚拟角色的交互前端额外添加投诉反馈入口，方便权利人针对性地进行投诉举报。
针对涉及平台AI生成的情形：平台根据用户创建虚拟角色时上传的图像、文字等，进一步利用平台自身的模型生成最终的虚拟人角色。在此情况下，平台实质上已经直接或间接参与到用户的虚拟角色创建流程中。如用户创建的虚拟角色被认定构成著作权或人格权侵权，那么平台也可能会因此而担责。
2.是否进行潜在的风险提示
在虚拟人陪伴产品的设计层面，应当注意提示用户对潜在的著作权和人格权侵权风险进行提示。在具体的做法上，大多数产品都会在《用户协议》中设置类似的条款：
“您发布上传的内容均应由您原创或已获得合法授权，保证不侵犯任何人的知识产权、人格权、商业秘密等合法权益，否则由此产生的侵权风险和责任由您承担，同时您应赔偿我们因此遭受的全部损失。”
也有部分产品会在用户创建虚拟角色的时候进一步添加版权声明：
3.是否进行生成物标识
根据《生成式人工智能服务管理暂行办法》第十二条以及《生成式人工智能服务内容标识方法》，服务提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。
谨慎利用算法组织用户创设虚拟形象——“AI陪伴者”人格权侵权案带来的警示
当前市面上的AI虚拟人陪伴产品，除了常规的虚拟人交互功能外，很多产品都开发了社区属性的模块，叫法各不相同，例如“发现”、“社区”、“论坛”、“虚拟人动态”、“圈子”等等，目的在于通过用户交流和平台推荐机制提升用户活跃度。
但是对于虚拟人情感陪伴类产品而言，如果将用户创建的虚拟角色通过聚类算法、协同推荐算法等技术，在社区模块进行分类并向其他用户推荐，甚至允许其他用户进行二次创作，则平台可能很难适用“技术中立”原则。即便平台设置了我们前面提到的投诉举报机制并尽到合理注意义务，最终可能也难以免责。
（某虚拟人产品对于用户创建的公开虚拟角色，显示将用于公开分发）
AI陪伴软件侵害人格权案作为入选最高人民法院“民法典颁布后人格权司法保护典型民事案例”之一，本案原告何某发现自己在被告的软件中，被大量用户通过上传原告的肖像图片、名称等方式设置为“AI陪伴者”。为了使虚拟角色更加拟人化，被告还提供了“调教”算法机制，在通用语料之外，用户上传了各类符合该虚拟陪伴者人设的文字、肖像图片、动态表情等互动语料，被告使用人工智能筛选、分类，形成人物专属语料，根据话题类别、人设特点等，用于AI陪伴者“何某”与用户的对话中，让用户和AI对话就好像与原告真人对话一样。同时被告还通过聚类算法，将陪伴者“何某”按身份分类，并以协同推荐算法向其他用户推介该虚拟人物。
最终法院认定被告在算法设计和规则设定中嵌套其主观价值和主观目的，不适用“技术中立”的原则，未经许可创设、使用原告虚拟形象的，构成对原告人格权的侵害，判决被告向原告赔礼道歉并赔偿经济损失、合理支出以及精神损害抚慰金共计203000元。[1]
我们在体验市面上的虚拟人陪伴应用时，发现不少产品都在产品的社区论坛模块对不同虚拟人角色进行分类、有些甚至贴上“官方推荐”的标签，“AI陪伴者”案或许可以给同类产品开发者带来警示：使用推荐算法技术，平台可能难以辩解为仅提供“通道”服务。
（某虚拟人产品在“发现”页面展示的虚拟角色）
多聊几句
当前关于人工智能的诸多规则尚未明确，针对虚拟人情感陪伴产品，尚未形成监管上的定论。我们认为，一方面，无论是监管部门还是审判机关，都不宜为企业设置过于严苛的事前风险防范义务；另一方面，对于产品开发者而言，可以从当前的有限的司法实践得到启示，除了尽到合理的注意义务，还应当谨慎地进行产品规则设计和算法应用，更应当尽量避免过于明显的违法行为，为自己的产品留下充分的“自圆其说”的空间。
---
[1]北京互联网法院：《法官讲案例（四）：制作名人AI形象陪伴，小心侵权》https://mp.weixin.qq.com/s/BG7yr-u9QTo-vwv_0uBMAw。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》团体标准起草人。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
陈焕
《法律人ChatGPT应用指南》作者
隆安湾区人工智能法律研究中心主任
隆安广州数字经济部副部长
\*链接100位AIGC从业者，共创AIGC合规书籍，让AI+法律赋能百业千行。扫描添加作者微信，请备注姓名+单位。