广电总局视听司发文提示AI“魔改”
12月7日，广电总局网络视听司发布《管理提示（AI魔改）》（下称《管理提示》）。
《管理指示》指出近期AI“魔改”视频以假乱真，“魔改”经典现象频发。在各大短视频平台，《甄嬛传》变身“枪战片”，《红楼梦》改成“武打戏”，孙悟空骑着摩托车扬长而去。
《管理提示》指出了这些短视频存在以下问题：
1.冲击传统文化认知：博取流量，毫无边界亵渎经典IP，经典作品被“魔改”成与原著精神内核相悖的形象，冲击传统文化认知。
2.存在侵权风险：与原著精神内核相悖，且涉嫌构成侵权行为，如使用原来影视剧中的人物形象，涉及使用演员的肖像，可能侵犯演员的肖像权。
对此，《管理指示》提出了具体的管理要求：
1.各相关省局督促辖区内短视频平台排查清理AI“魔改”影视剧的短视频，并于12月10日反馈工作情况。
2.严格落实生成式人工智能内容审核要求，举一反三，对各自平台开发的大模型或AI特效功能等进行自查，对在平台上使用、传播的各类相关技术产品严格准入和监看，对AI生成内容做出显著提示。
AI“魔改”影视剧存在哪些侵权风险？
1.著作权侵权风险
AI“魔改”影视剧中，AI视频的制作者通常是用AI软件给影视剧的人物形象加上一些夸张的动作或无厘头的道具，让原本的经典场景变得荒诞搞笑，以吸引更多的流量。而这种AI“魔改”行为，实际上可能侵犯作者的著作权。
根据我国《著作权法》第十条的规定，著作权具体可分为人身权和财产权，其中人身权包括发表权、署名权、修改权和保护作品完整权。
署名权是指表明作者身份，在作品上署名的权利。在AI“魔改”过程中，如未能在改编作品中正确署名原作者，可能侵犯原作者的署名权。
修改权是指作者享有修改或授权他人修改作品的权利，保护作品完整权是指作者享有保护作品不受歪曲、篡改的保护作品完整权。
AI“魔改”涉及对原影视作品经典桥段的修改，往往能够改变作者在影视作品中想传达的思想情感，甚至是对作者原意的故意改变和歪曲，可能构成对作者修改权和保护作品完整权的侵犯。
2.人格权侵权风险
民事主体依法享有姓名权、肖像权、名誉权、隐私权等具体的人格权利。
如果AI“魔改”未经演员同意，使用了演员的肖像，甚至以丑化、污损或者利用信息技术手段伪造等方式来使用演员的肖像，均可能构成对演员肖像权的侵犯。
根据我国《民法典》规定，对自然人声音的保护，参照适用肖像权保护的有关规定。如AI“魔改”中未经自然人许可使用其声音，或利用AI技术合成与特定自然人声音对应的配音，则可能构成对自然人声音权益的侵犯。
视频平台应该如何应对AI“魔改”？
1.规范平台生成合成行为
《人工智能生成合成内容标识办法（征求意见稿）》第六条提到，对于提供网络信息内容传播平台服务的服务提供者，应当采取措施规范生成合成内容传播活动。
对于提供网络信息内容传播平台服务的服务提供者，具体应当核验文件是否含有生成物标识，对于疑似生成合成内容应在文件元数据中添加生成合成内容属性等信息，以及提供必要的标识功能，并提醒用户主动声明发布内容中是否包含生成合成内容等。
对于利用AI技术生成的视频，平台作为传播服务的提供者，应当在核验视频标识、提示用户主动声明AI合成等方面积极采取措施。
2.加强算法推荐下的平台注意义务
算法推荐在给视频平台带来更多流量的同时，也给平台带来一定的法律风险，近年来平台算法推荐构成帮助侵权的案件不断涌现。
在北京市高级人民法院近期发布的涉中华优秀传统文化知识产权保护典型案例中，“《博物馆里的中国通史》著作权纠纷”一案，B站因利用算法向用户推荐侵权视频，被判构成帮助侵权，赔偿原告13万余元。
根据过往发生的此类案件的审理情况，平台如果明知或应知其所推荐的内容侵权，仍实施算法推荐行为，对侵权视频的传播起到实质性推动作品，则可能构成著作权的帮助侵权。
因此，在AI“魔改”影视剧泛滥的当下，视频平台在算法推荐过程中有必要提高注意义务，否则可能构成向AI“魔改”侵权视频提供传播便利或未能有效阻止侵权视频传播，被认定为帮助侵权。
3.完善侵权投诉处理机制
根据《民法典》第1195-1197条的规定，网络服务提供者接到权利人关于“网络用户利用网络服务实施侵权行为”的通知后，应当及时将该通知转送相关网络用户，并根据构成侵权的初步证据和服务类型采取删除、屏蔽、断开链接等必要措施；未及时采取必要措施的，对损害的扩大部分与该网络用户承担连带责任。
因此，如果视频平台知道或者应当知道网络用户利用其网络服务侵害他人民事权益，未采取必要措施的，则与该网络用户承担连带责任。
此外，在实践中，对于多次传播侵权视频的用户，视频平台应当提高注意义务，除删除、屏蔽侵权视频外，还应当采取限制其使用部分功能甚至停止网络服务的必要措施。
除了前面提到的各项措施，AI时代的视频平台还需注意加强平台内容审查，完善平台规则和用户服务协议等文件中对用户行为规范的约束等。
最后，我们要看到，这种魔改确实很可能是一种“过度娱乐”，会杀死我们的珍贵回忆；但从另一方面讲，这种“想看什么自己搓”的娱乐方式，却也可以释放人们的创意，让人们享受更多意想不到的作品、满足不同的精神需求，在符合版权、人格权等法律规定的前提下，似乎也是AI时代“人机结合”的一种积极探索。
希望我们的创作者和监管部门，能在娱乐、创作与监管之间，找到新的平衡，让新技术更多地赋能艺术创作，促进文化产业的健康发展。
你支持对AI魔改的视频进行监管吗？
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
往期文章推荐：
人工智能
三问“中国AI生成物可版权性第二案”
驳回起诉：OpenAI暂时击败了新闻媒体关于AI训练的版权诉讼｜附原文和翻译
AI开始关心你的便便，挂上摄像头的马桶，要不要来一个？
爱，死亡，与AI：一个因AI而死的少年
可以控制电脑的Claude3.5，离自己上班还有多远
AI搜索还能不能行了？
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
德国法院：使用摄影作品训练AI模型不构成侵权
帮你写简历？LinkedIn是如何使用你的个人信息的
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知
中国人工智能监管及政策文件汇编
重磅：网安标委颁布《人工智能安全治理框架》1.0版
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
大模型厂商使用用户输入信息训练AI的合规策略
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
政府补贴｜数据资源入表/人工智能算法备案奖励政策梳理（附原文｜广州）
双十一，手可以剁，但千万不可以抖｜开屏摇一摇
数据资产 | 数据资源入表，到底应该如何开展工作？
最新发布：《网络数据安全管理条例》1月1日起施行
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 如何在农业领域发挥数据要素乘数效应
数据资产 | 公交领域数据入表案例盘点与分析
数据圆桌｜数字化智能化改造最新税收优惠政策解读
醒醒吧！虚拟币征税=交易合法？
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据合规 | 家长们最在意的“青少年模式”如何做好合规？
影响数字经济领域的指导案例发布，虚拟币交易的未来何去何从？
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
观点汇编 | 数据权益的保护路径
新书资讯
诚邀参编｜全新司法解释下侵权责任编实务问答新书
通知查收｜《工程老板必备法律锦囊》出书共创群
重磅推荐：《网络犯罪办案实务指南》新书上市
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
