（图片由AI生成）
一场AI界的猫鼠游戏正在展开
近日，一组Ted演讲者的照片在外网爆火。
在不借助其他工具的情况下，你能否分辨下面这张照片是真实的，还是AI生成的？
正确答案是：AI生成的。
这张图片是由8月初上线的Flux文生图工具生成的，Flux上线至今因其超强的文本理解能力和图像生成效果迅速走红。
但随之而来也引发不少网友对这个魔幻世界的担忧，我们在互联网上浏览信息时，已经很难仅凭肉眼来辨别出内容是否是由人工智能生成的了。
随着AI内容识别检测工具和方法的出现，“AI生成内容”与“识别内容是否AI生成”逐渐演变成一场“猫鼠游戏”。
前谷歌搜索创始人员Deedy就指出：可以通过提高图片饱和度，检查麦克风接口和人物牙齿等方式，来判断图片是不是由AI生成的。
在使用Claude的AI鉴别工具后，可以看到下图中人物的牙齿部分非常怪异，胸牌的颜色也露出了马脚。
这堪比效果堪比“照妖镜”和“火眼金睛”。
如今AI仍在以超乎想象的速度发展，在这个人工智能时代，现实和虚拟的界限已经越来越模糊了。在用户难以分辨获取内容的生成来源情况下，生成式人工智能服务提供者有必要、要义务对AI生成内容进行标识，告诉用户内容是由AI生成的。
生成物标识——AI产品合规的必选项
对人工智能生成物进行标识已经成为了生成式人工智能服务提供者的法定义务。标识义务是对公众知情权的尊重，也是对权利人的一种保护性义务。
《生成式人工智能服务管理暂行办法》第12条规定：“提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。”《互联网信息服务深度合成管理规定》第17条规定，在人工智能生成物可能导致公众混淆或者误认的情况下，生成式人工智能服务提供者有义务对其提供的生成物进行显著标识。可见，生成式人工智能服务提供者应当对AI作品进行标识，明确告诉相关公众内容是由AI生成，否则将会有承担侵权赔偿责任的风险。
在广州互联网法院的AIGC平台第一案中，被告某AI公司就因生成奥特曼相关图片被告上法庭，未进行AI生成物标识成为法院认定被告未尽合理注意义务的原因之一。法院认为“标识义务不仅是对公众知情权的尊重，也是对权利人的一种保护性义务”，在判决书中针对生成物标识的问题论述如下：
“生成式人工智能服务提供者在生成物可能导致公众混淆或者误认的情况下，有义务对其提供的生成物进行显著标识。经标识后，有关权利人能够明确认识到生成物系由人工智能生成，进而采取更具针对性和有效的维权措施，更好地保护其权利。因此，标识义务不仅是对公众知情权的尊重，也是对权利人的一种保护性义务。就本案而言，被告并未显著标识案涉生成图片，未尽标识义务。”[1]
那么企业应该怎么对人工智能生成物进行标识呢？《深度合成管理规定》为我们提供了重要指引。
1.服务提供者应该怎么做？
《深度合成管理规定》第16条、第17条规定服务提供者是标识义务的承担主体，并且要求服务提供者对不同性质的生成内容承担不同程度的标识义务。
（1）不影响用户使用的标识：对生成或者编辑的信息内容，应当采取技术措施添加不影响用户使用的标识，并依照法律、行政法规和国家有关规定保存日志信息。
（2）易造成公众混淆或者误认时应显著标识：提供智能对话、智能写作、合成人声、仿声、人脸生成、人脸替换、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务，可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示信息内容的合成情况。
2.用户应该怎么做？
《深度合成管理规定》第18条对人工智能生成物的使用者作出了要求。虽然使用者不需要主动承担标识义务，但仍有不破坏已有标识的义务，不得删除、篡改、隐匿标识。
AI生成物标识，真的做到位了吗？
目前，主流的AI内容生成平台已经认识到生成内容标识的重要性，主动在人工智能生成内容中，添加表明是“由AI生成”的标识。例如，“文心一言”在根据用户提示词生成图片时，会在图片右下角打上“AI作图”的水印。
（由文心一言3.5版本生成）
然而，不少人工智能内容生成平台对标识义务的履行还存在明显的不足：
（1）情形一：下载至本地后标识消失
在使用某AI图片创作平台过程中，停留在用户界面时AI生成图的右下角确实有明显的AI水印，但当把图片下载到本地后，提示“由人工智能生成”的标识却消失不见了。
根据《生成式人工智能服务管理暂行办法》和《互联网信息服务深度合成管理规定》的有关规定，生成式人工智能服务提供者进行标识的对象是“生成或者编辑的信息内容”。
该平台虽然在生成图片时打上了AI标识水印，但最终用户下载到本地的图片却未显示AI标识，有违人工智能标识的规定。
（某AI图片创作平台生成图片的用户界面——添加了水印）
（从某AI图片创作平台下载到本地的AI生成图片——去除了水印）
（2）情形二：氪金用户可去AI标识
为实现商业变现，不少企业会对部分AI产品的功能进行收费，用户氪金越多，就能享受更多的生成内容和更快的生成速度，甚至还能获得主动选择去除标示“Ai生成”水印的权益。例如，某知名AI一键生成PPT平台，在会员订阅计划中设置了不同的档位，其中Plus和Pro的付费玩家均可选择移除AI标识，即平台向免费用户生成的是带有水印的内容，而氪金用户则可以获得不带有AI标识的PPT。
依照我国《互联网信息服务深度合成管理规定》的规定，服务提供者标识履行义务是“应当”而不是“可以”，也就是说对AI生成物进行标识是平台必须要做的事。特别是在生成内容容易导致公众混淆或者误认的情况下，平台把移除AI标识作为增值服务并向部分用户提供无标识内容的做法并不可取。
（某AI演示文稿、文档和网站生成服务平台的充值界面）
有鲤律师建议
身处人工智能的浪潮中，创新与责任并重，AI标识不仅是法律的要求，也是对技术伦理的坚守。AI产业相关企业是时候给予标识义务足够重视，重新审视并完善AI生成物标识。
1.重视人工智能生成内容标识的合规义务，保障用户知情权。
2.用户下载生成内容至本地时，生成内容仍应保留原有AI标识。
3.谨慎提供“会员去AI标识”的服务，尤其是在生成内容容易导致公众混淆或者误认的场景之下。
---
参考资料：
[1]广州互联网法院（2024）粤0192民初113号民事判决书。
[2]肖海龙 张克江：《研究 | 生成式人工智能企业合规及法律尽职调查要点（2）：数据/语料和生成内容安全篇》，载微信公众号“云上锦天城”。
[3]《AI领域新动态：AIGC标识强制标准立项，〈国家人工智能产业综合标准化体系建设指南（2024版）〉发布》，载微信公众号“铸成视角”。
---
创作团队
作者：陈焕 李琪瑶 白心怡
审核：有鲤Legal
往期文章推荐
人工智能
大模型厂商使用用户输入信息训练AI的合规策略http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485181&idx=1&sn=d0eccc97c4e6f0aa6dc0555dcb4fe925&chksm=9b4ad086ac3d59907f9d2e6549cee5affa3791f6222bbc372ecac270c79a0d0ba43910d38d58&scene=21#wechat_redirect
深夜重磅！OpenAI突然发布SearchGPT，AI 搜索的合规怎么卷？| 附内测申请链接
AIGC律师｜AI水平大幅逼近美国，生成物标识的合规监管还会远吗?
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
全国首案：《数据知识产权登记证》案的几点启发http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485065&idx=1&sn=983572540d58a03cfed52630c5b9cc1e&chksm=9b4ad0f2ac3d59e43c5224e741ab7d0967bdeb7ea7c83cfdeb32b24a64756588e1c991ca00a1&scene=21#wechat_redirect
数据资产 | 数据资源入表，到底应该如何开展工作？
数据圆桌｜数字化智能化改造最新税收优惠政策解读
数据资产 | 公交领域数据入表案例盘点与分析
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
