是故意用AI生成虚假内容，还是被恶意搬运？
1月7日西藏定日县发生6.8级地震，灾情牵动人心。
网络也发生了一场“余震”，不少自媒体账号，为了博眼球、引关注，通过搬运旧图、利用AI合成等方式，发布了与地震相关的虚假内容，有些账号甚至借此获得了上万的评论、转发和点赞。其中最广为流传的就是以下这张“地震男孩被困图”。
（截图来自自媒体AI合成的视频，与本次西藏地震无关）
部分网友对此也信以为真，纷纷在视频底下评论：“这娃让我哭一天”“请告诉我一下，这个宝宝还好吧。”
（图片来自”新京报”）
不久之后，官媒也开始辟谣，提示网友应警惕这些网络不实信息。那些曾经付出真情实感的网友才发现原来自己同情的孩子竟然是AI生成的......
（图片来自“西藏日报”）
根据央视新闻报道，在网上广为流传的“地震后小男孩被埋废墟”图片和视频，是由原作者在2024年11月发布的AI视频。
原视频的创作者表示，该作品是他在去年通过AI软件生成的。仔细看该视频，可以发现很多奇怪的地方，最为明显的是视频中的男孩有6根手指。
在原始视频的发布页面，该创作者也已声明“内容由AI生成”，并打上“废墟中的希望”“战争是残酷的”等标签。
根据报道反映的情况，该AI图片的创作者的创作本意并非为了蹭热度和传播地震相关虚假信息，且在上传AI作品时已主动进行AI标识，本次事件很难说由该创作者承担责任。
实际上，该图片是被有心之人恶意搬运，配上地震相关文字，蹭灾情热度，企图用“地震小孩被埋图”来博眼球，甚至将“AI生成”标识删除，没有任何提示。
用AI造谣，该承担什么责任？
在AI时代，只需几秒钟就可以生成数张图片，造谣成本极低。用AI生成的图片来传播虚假信息，可能引发群众恐慌，扰乱社会秩序。
根据《治安管理处罚法》和《刑法》等相关规定，编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，扰乱公共秩序的，将根据行为的严重性，依法面临相应的行政处罚和刑事责任。
《治安管理处罚法》第二十五条： 有下列行为之一的，处五日以上十日以下拘留，可以并处五百元以下罚款；情节较轻的，处五日以下拘留或者五百元以下罚款： （一）散布谣言，谎报险情、疫情、警情或者以其他方法故意扰乱公共秩序的。
《刑法》第二百九十一条之一第二款： 编造虚假的险情、疫情、灾情、警情，在信息网络或者其他媒体上传播，或者明知是上述虚假信息，故意在信息网络或者其他媒体上传播，严重扰乱社会秩序的，处三年以下有期徒刑、拘役或者管制；造成严重后果的，处三年以上七年以下有期徒刑。
《生成式人工智能服务管理暂行办法》第四条： 提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定： （一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。
AI内容满天飞，平台该尽到哪些义务？
笔者认为可以将根据平台提供的服务属性，分情况讨论：
（1）提供生成式人工智能服务的平台
对于提供生成式人工智能服务（包括自研模型提供服务和接入第三方模型提供服务）的平台而言，对生成内容进行主动的标识是应有之义。
根据《生成式人工智能服务管理暂行办法》和《互联网信息服务深度合成管理规定》的相关规定，如可能导致公众混淆或者误认的，应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。
同，平台除了需履行作为生成式人工智能服务提供者的义务之外，还应对遵循作为网络信息内容服务平台的相关规定。
（2）仅提供内容发布服务的UGC平台
对于向用户提供内容发布服务的网络平台，对于用户上传的AI生成的违法不良内容，并非可以完全免责。
根据《网络安全法》《网络信息内容生态治理规定》等相关规定，网络信息内容服务平台应当采取措施，加强本平台网络信息内容生态治理，加强对本平台信息内容的管理，发现违法不良信息的，应当依法立即采取处置措施，保存有关记录，并向有关主管部门报告。
可见，作为提供内容发布服务的UGC平台，仍有义务对平台内容生态进行管理，优化信息发布审核、应急处置和网络谣言相应机制等，否则可能被相关部门进行约谈，限期整改。
在AI内容泛滥的互联网时代，平台可以从以下几个方面加强管理：
1.提示用户对AI内容进行标识：通过《用户协议》和内容发布页面提示等方式，提示用户应主动对发布的人工智能生成内容进行标识。
2.加强平台用户管理：对于利用AI生成虚假、违法、不良内容的用户，可以依据平台规则进行处理，包括及时删除相关内容，视情况对用户账号进行功能限制等。
3.加强AI内容检测：对于用户未主动进行AI标识的内容，平台可根据自身的检测机制对相关内容添加AI标识，提示用户相关内容系由AI生成。
4.优化内容安全审核：建立网络信息内容生态治理机制，制定网络信息内容生态治理细则，健全用户注册、账号管理、信息发布审核、跟帖评论审核、版面页面生态管理、实时巡查、应急处置和网络谣言等。
笔者也留意到，网上有观点认为：“本次事件中，AI生成的相关视频发出约1小时后才出现‘疑似AI技术生成’的提示，说明审核规则具有滞后性”。
不知道对于这个问题，读者朋友们怎么看？欢迎在评论区留下您的观点。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
「AI合规圈」往期文章推荐：
人工智能
三问“中国AI生成物可版权性第二案”
驳回起诉：OpenAI暂时击败了新闻媒体关于AI训练的版权诉讼｜附原文和翻译
AI开始关心你的便便，挂上摄像头的马桶，要不要来一个？
爱，死亡，与AI：一个因AI而死的少年
可以控制电脑的Claude3.5，离自己上班还有多远
AI搜索还能不能行了？
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
德国法院：使用摄影作品训练AI模型不构成侵权
帮你写简历？LinkedIn是如何使用你的个人信息的
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知
中国人工智能监管及政策文件汇编
重磅：网安标委颁布《人工智能安全治理框架》1.0版
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
大模型厂商使用用户输入信息训练AI的合规策略
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
政府补贴｜数据资源入表/人工智能算法备案奖励政策梳理（附原文｜广州）
双十一，手可以剁，但千万不可以抖｜开屏摇一摇
数据资产 | 数据资源入表，到底应该如何开展工作？
最新发布：《网络数据安全管理条例》1月1日起施行
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 如何在农业领域发挥数据要素乘数效应
数据资产 | 公交领域数据入表案例盘点与分析
数据圆桌｜数字化智能化改造最新税收优惠政策解读
醒醒吧！虚拟币征税=交易合法？
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据合规 | 家长们最在意的“青少年模式”如何做好合规？
影响数字经济领域的指导案例发布，虚拟币交易的未来何去何从？
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
观点汇编 | 数据权益的保护路径
新书资讯
诚邀参编｜全新司法解释下侵权责任编实务问答新书
通知查收｜《工程老板必备法律锦囊》出书共创群
重磅推荐：《网络犯罪办案实务指南》新书上市
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
