N号房2.0事件
现在的韩国，人人自危。
犯罪分子利用自己身边的朋友、同学、同事的照片，通过deepfake技术合成色情图片和视频，在Telegram上通过聊天室的方式对这些照片进行疯狂传播。
“无法预测多少女性因为deep fake而受到伤害”。
许多韩国女性发帖呼吁当局采取措施，甚至无助到要来到中文互联网发文求助，引起国内热议：
随后我国中科院女工程师张欣怡也宣布，将参加过全球Deepfake攻防挑战赛的AI模型，向全球开源以对抗deepfake。
对于在韩国肆虐传播深度伪造色情内容，亟待韩国政府出手进行打击。
只是观看深度伪造色情内容，在韩国也构成犯罪！
10月10日，韩国终于通过了一项涉深度伪造犯罪的修正案。根据该修正案，持有、购买、存储或观看深度伪造淫秽影像的人员，可判处三年以下有期徒刑或最高3000万韩元（约合人民币15.75万元）的罚金。
根据规定，对编辑、散布深度伪造色情影像的处罚力度，从此前的五年以下有期徒刑上调至七年以下有期徒刑。对于以营利为目的的深度伪造犯罪，也通过提高刑期的方式加重刑罚。利用深度伪造淫秽影像恐吓的，可被判处一年以上有期徒刑。
除了《性暴力犯罪处罚特别法》的修订法案外，韩国政府还通过了《性暴力预防和受害者保护法》的修订法案，该法案明确了政府有责任删除非法拍摄的材料，并帮助受害者从创伤中恢复并恢复正常生活。
同时，韩国政府还对《保护儿童和少年免受性虐待法》进行了修订，以加强警方对针对未成年人的性剥削材料的调查以及对肇事者的惩罚，保护儿童免受性犯罪。
那么韩国为什么要规定观看的人也构成犯罪？
韩国官方认为，在类似N号房的事件中，观看者和传播者都为利用深度伪造技术进行性犯罪提供了市场需求，而正是这些旺盛的需求导致了犯罪蔓延。
在Telegram上，用户如果想要加入此类群组，往往需要缴费才能进入尺度更大的群组。有些聊天室甚至还要求用户向受害者发送深度伪造的色情内容、分享受害者的反应，才能入组，以显示群成员的忠诚度。
而这些在群组中观看、下载、存储色情图片和视频的成员，被视为在同一个“房间”实施犯罪的犯罪团体，有人上传，有人观看，有人传播，有人下载。因此，韩国政府认为有必要对此类观看色情内容的行为进行处罚。
我国对利用深度伪造进行色情犯罪是如何规定的？
1.中国版“N号房”：制作、传播淫秽物品牟利罪
针对利用深度伪造技术制作、传播、贩卖色情图像或视频的犯罪行为，我国主要通过《刑法》第363条“制作、复制、出版、贩卖、传播淫秽物品牟利罪”和第364条“传播淫秽物品罪”进行规制。
淫秽物品，是指具体描绘性行为或者露骨宣扬色情的诲淫性的书刊、影片、录像带、录音带、图片及其他淫秽物品。
杭州市萧山区检察院针对一起中国版的“N号房”事件提起公诉，该案被告人虞某通过AI换脸制作生成虚假的淫秽视频，并在社交软件创建多个群组为“客户”提供换脸服务。
据检察机关收集的证据显示，虞某创建的众多社交群组中，最少的成员95人，最多的成员达2053人。
杭州市萧山区人民法院最终判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。
《刑法》第三百六十三条第一款
【制作、复制、出版、贩卖、传播淫秽物品牟利罪】以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
《刑法》第三百六十四条
【传播淫秽物品罪】传播淫秽的书刊、影片、音像、图片或者其他淫秽物品，情节严重的，处二年以下有期徒刑、拘役或者管制。 【组织播放淫秽音像制品罪】组织播放淫秽的电影、录像等音像制品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金。 制作、复制淫秽的电影、录像等音像制品组织播放的，依照第二款的规定从重处罚。 向不满十八周岁的未成年人传播淫秽物品的，从重处罚。
此外，利用AI技术传播淫秽视频，根据犯罪分子的具体行为，还有可能构成侵犯公民个人信息犯罪、侮辱罪、诽谤罪等。
2.在我国，观看深度伪造淫秽视频是否构成犯罪？
我国目前并没有规定单纯地观看淫秽视频构成犯罪，但如果涉及组织他人一起观看、分享、复制等，则可能构成犯罪或受到行政处罚。
根据我国《治安管理处罚法》第68条，制作、运输、复制、出售、出租淫秽的书刊、图片、影片、音像制品等淫秽物品或者利用计算机信息网络、电话以及其他通讯工具传播淫秽信息的，处10日以上15日以下拘留，可以并处3000元以下罚款；情节较轻的，处5日以下拘留或者500元以下罚款。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
往期文章推荐：
人工智能
一文速通AI黑话：随查随用，聊天不慌（法律人全集版）
比飓风更可怕的，是一张 AI 生成图片
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
https://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485551&idx=1&sn=3d00adb677ed2e198099cb9a33097fb1&chksm=9b4ade14ac3d570211662a2ec5838fe8e764f97f0634c4012f1cbb1d6cd6752a03c8dbae2efe&scene=21#wechat_redirect[德国法院：使用摄影作品训练AI模型不构成侵权](https://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485502&idx=1&sn=e355a72ba668531c6e30df0f6585341b&chksm=9b4ade45ac3d575343139a60a63255ccbf98db15aa795cd707f5300c283283f55d96a361ffa4&token=1513513496&lang=zh_CN&scene=21#wechat_redirect)
帮你写简历？LinkedIn是如何使用你的个人信息的
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485447&idx=1&sn=c60ec7d503c410ba89354196a4fc80f1&chksm=9b4ade7cac3d576adce5559b3e8cfeee0134a73aded5edc72b11b1b791ba31ae998564f18c8b&scene=21#wechat_redirect
中国人工智能监管及政策文件汇编
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485274&idx=1&sn=034cd253b62141eee8dee891f3e7031d&chksm=9b4ad121ac3d5837f35fa0dcd633afa466b0748df362437b24079a62bcdf23ef93e188d89707&scene=21#wechat_redirect
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
大模型厂商使用用户输入信息训练AI的合规策略
深夜重磅！OpenAI突然发布SearchGPT，AI 搜索的合规怎么卷？| 附内测申请链接
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485363&idx=1&sn=a8cf92b97ca7c8b230c4fdf81d0b1cb7&chksm=9b4ad1c8ac3d58de19d812d002cfce9db1f70f7ff70f05d4755e0daabd0b67d50fa664f84dd7&scene=21#wechat_redirect
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 公交领域数据入表案例盘点与分析
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
