最高人民检察院官方公众号发布《护航“AI第一城”，我们能做什么》，以新闻报道的方式，提及了五则涉及人工智能的相关刑事犯罪。
在人工智能监管边界相对模糊、人工智能技术飞速发展、人工智能产业方兴未艾的当下，检察院的司法实践意见非常珍贵。「AI合规圈」公众号结合该文章的观点，以及长期为人工智能企业提供专业服务的合规观察视角，对该五则案例进行简评，供大模型企业和人工智能应用研发企业参考。
从这些案例来看，我们离AI类犯罪井喷的时代，也许不再遥远。
（因公开信息有限，仅做观点探讨。如有纰漏，敬请原谅。）
案例一：盗取即将用于人工智能研发的个人信息
案情简述：
北京市海淀区检察院：
（1）吕某在未经授权的情况下，非法登录一家云计算公司（下称A公司）的部分在线客服管理软件账号。
（2）A公司是一家探索将传统人力资源管理与AI等技术相结合的科创企业。
（3）吕某在盗取更多管理权限账号后，将1.5万余条个人信息非法下载并保存至其个人电脑内，计划用于人员招录，严重影响被害公司服务器数据管理安全，妨碍公司研发人工智能产品进度。
检察机关办案思路：
全面审查电子数据，以涉嫌侵犯公民个人信息罪对吕某提起公诉。今年3月11日，吕某被法院判处有期徒刑十个月，并处罚金。与此同时，检察机关还向相关公司制发检察建议，建议加强软件账号保护管理，构筑数据安全管理体系。
相关法条：
《刑法》
第二百五十三条之一违反国家有关规定，向他人出售或者提供公民个人信息，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处三年以上七年以下有期徒刑，并处罚金。
违反国家有关规定，将在履行职责或者提供服务过程中获得的公民个人信息，出售或者提供给他人的，依照前款的规定从重处罚。
窃取或者以其他方法非法获取公民个人信息的，依照第一款的规定处罚。
单位犯前三款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照各该款的规定处罚。
「AI合规圈」简评：
（1）本案与人工智能领域的关系不算密切，但属于侵犯公民信息罪中非常常见的情形。“网络不是不法之地”，不正当的数据获取方式，轻则引起数据合规风险，重则构成刑事犯罪，应当予以警惕。
（2）此外，将个人信息用于人力资源领域的人工智能应用研发，实际上也存在个人信息处理的包括知情同意、授权范围等数据合规风险，也值得相关企业重视。
案例二：擅自使用人工智能模型开源代码涉嫌侵犯商业秘密犯罪案
案情简述：
北京市海淀区检察院：某数据科技公司技术人员离职后，擅自使用人工智能模型配套源代码。案发后涉案技术人员称，原公司的技术也是基于开源数据进行的技术研发，且有其他员工证言可以证明。
检察机关办案思路：
（1）“先确权、再定性”，针对算法、模型、训练数据、源代码等知识产权保护问题，考虑到当前人工智能产业处于初期发展阶段，对于在开源生态下技术迭代引发的侵权案件，办案时需要重点考虑相关技术或作品内容是否具有独创性、权利人是否设置有效保密措施、该技术在公开渠道是否可查询等。
（2）检察机关需要结合其他在案证据认定该公司相关软件作品是否有实质性改变，是否具有独创性或相关技术信息是否被采取保密措施，是否具备非公众所知属性，在此基础上依法作出处理决定，准确区分刑事犯罪与民事纠纷。
相关法条：
《反不正当竞争法》
第九条第四款本法所称的商业秘密，是指不为公众所知悉、具有商业价值并经权利人采取相应保密措施的技术信息、经营信息等商业信息。
《刑法》
第二百一十九条有下列侵犯商业秘密行为之一，情节严重的，处三年以下有期徒刑，并处或者单处罚金；情节特别严重的，处三年以上十年以下有期徒刑，并处罚金：
（一）以盗窃、贿赂、欺诈、胁迫、电子侵入或者其他不正当手段获取权利人的商业秘密的；
（二）披露、使用或者允许他人使用以前项手段获取的权利人的商业秘密的；
（三）违反保密义务或者违反权利人有关保守商业秘密的要求，披露、使用或者允许他人使用其所掌握的商业秘密的。
明知前款所列行为，获取、披露、使用或者允许他人使用该商业秘密的，以侵犯商业秘密论。
本条所称权利人，是指商业秘密的所有人和经商业秘密所有人许可的商业秘密使用人。
「AI合规圈」简评：
（1）使用开源的大模型，需要重视大模型选所用的开源协议的规定。以AGPL协议为例，AGPL协议具有高传染性，项目如果使用了带有AGPL协议的开源模型，则原则上需要将整个基于AGPL协议的软件，以同样的协议进行开源。
（2）但在项目正式投入使用之前，是否在研发的每个阶段都需要进行开源呢？AGPL协议之类的开源协议一般没有规定。在此情况下，使用了开源软件的项目，能否借助商业秘密的有关规定进行保护呢？本案中检察院以“是否设置有效保密措施”“是否为公众所知悉”等角度进行评议，体现了其进行商业秘密保护的倾向意见，实务中可以进行借鉴。
案例三：非法购买含有公民个人信息的数据案
案情简述：
北京市朝阳区检察院：某科技公司数据分析师为改进公司用于身份识别的相关人工智能模型算法，非法购买含有姓名、住址、联系方式以及相关征信情况的海量公民个人信息，该数据分析师被判处相应刑罚。
相关法条：
《刑法》
第二百五十三条之一违反国家有关规定，向他人出售或者提供公民个人信息，情节严重的，处三年以下有期徒刑或者拘役，并处或者单处罚金；情节特别严重的，处三年以上七年以下有期徒刑，并处罚金。
违反国家有关规定，将在履行职责或者提供服务过程中获得的公民个人信息，出售或者提供给他人的，依照前款的规定从重处罚。
窃取或者以其他方法非法获取公民个人信息的，依照第一款的规定处罚。
单位犯前三款罪的，对单位判处罚金，并对其直接负责的主管人员和其他直接责任人员，依照各该款的规定处罚。
「AI合规圈」简评：
（1）该案例与本文第一个案例的情形相近，相对明显的区别在于：
a.犯罪嫌疑人通过“外购”的方式，获取公民的敏感个人信息；
b.犯罪嫌疑人购买该等信息的目的，明确将用于改进“身份识别的相关人工智能模型算法”
（2）无论是将个人信息用于前文所述的人力资源领域的人工智能应用研发、还是用于“身份识别的相关人工智能模型算法”，无论这些个人信息是爬虫收集、合法购买，在大模型训练语境下使用个人信息，几乎必然会超过原本个人信息的授权使用范围，均需要获得告知个人信息主体，并取得其单独同意。
案例四：擅自使用他人版权作品用于人工智能生成并销售生成物
案情简述：
北京市通州区检察院：
（1）犯罪嫌疑人从网络平台下载某作家非高清版美术图片，未经许可，通过技术人员对图片水印进行处理，生成高清版、有细微差别的“新图”，再制作成拼图商品，通过网店对外售卖，利用广告引流和直播的形式吸引顾客。
（2）原作者发现被侵权后联系平台，该犯罪嫌疑人仍组织多人继续售卖，非法经营数额巨大。
（3）据犯罪嫌疑人供述，技术人员是通过生成式人工智能模型修改图片参数，能够达到混淆真假的效果。
检察机关办案思路：
检察机关依法认定该案犯罪嫌疑人已涉嫌侵犯著作权罪。
相关法条：
《刑法》
第二百一十七条以营利为目的，有下列侵犯著作权或者与著作权有关的权利的情形之一，违法所得数额较大或者有其他严重情节的，处三年以下有期徒刑，并处或者单处罚金；违法所得数额巨大或者有其他特别严重情节的，处三年以上十年以下有期徒刑，并处罚金：
未经著作权人许可，复制发行、通过信息网络向公众传播其文字作品、音乐、美术、视听作品、计算机软件及法律、行政法规规定的其他作品的；
……
「AI合规圈」简评：
目前未能查到该案件的更多细节，仅从新闻报道的描述来看，则本案无疑敲响了AI生图圈的刑事风险警钟：
（1）为AI生图圈所周知，使用版权素材，训练出某一作品风格甚至具体作品特征的LoRA，并让AI在LoRA的基础上生成风格相近的“新图”，是当前AI作图领域的常见做法。从本案中检察院对案情的描述来看，不能排除“技术人员”就是使用了这种方式进行AI绘图。
（2）并非所有的创作者都会将获得的“新图”进行售卖，但将AI绘制的“新图”放在互联网上传播的可能性相当高，不能排除在获得一定知名度的情况下进行售卖的可能。
（3）目前，AI作图的可版权性还存在一定的争议，假如AI绘制的图片不能被赋予著作权，那么刑事犯罪定性上认为属于“侵犯著作权罪”，是否还是有一定的讨论空间呢？
（4）关于AI可版权性的问题，感兴趣的读者可以参阅我们另外两篇文章的论述《AI图片著作权第一案错判？探索人机创作的版权边界》《三问“中国AI生成物可版权性第二案”》
案例五：“AI去衣”传播淫秽物品罪案
案情简述：
北京市海淀区检察院：
（1）白某在境外网站发布“AI去衣”广告
（2）通过境内社交软件收受他人非法提供的、承载人脸信息的不特定女性照片
（3）再通过深度伪造技术、AI软件，将不特定女性的照片制作成6000余张“去衣”裸体图片贩卖牟利，
（4）同时出售“AI去衣”软件及使用教程牟利，违法所得7000余元。
检察机关办案思路：
以涉嫌传播淫秽物品罪、侵犯公民个人信息罪对白某提起公诉，并对被告人涉嫌侵犯他人公民个人信息的行为提起刑事附带民事公益诉讼。目前案件仍在审理中。
相关法条：
《刑法》
第三百六十三条以牟利为目的，制作、复制、出版、贩卖、传播淫秽物品的，处三年以下有期徒刑、拘役或者管制，并处罚金；情节严重的，处三年以上十年以下有期徒刑，并处罚金；情节特别严重的，处十年以上有期徒刑或者无期徒刑，并处罚金或者没收财产。
（第二百五十三条之一侵犯公民个人信息罪略）
「AI合规圈」简评：
（1）这种案例不是第一个，也不会是最后一个。
（2）今年早些时候，国外社交平台推特甚至因为霉霉Taylor Swift合成的裸照的疯传，不得已暂停了“霉霉”“Taylor Swift”的关键字搜索。2023年11月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。在该案中，虞某利用“AI换脸”软件生成大量淫秽视频进行传播，被换脸的既包括不少女明星等公众人物，也包括普通人。
（3）感兴趣的朋友，也可以跳转阅读《律师评测 | 华为手机“AI一键脱衣”》。
（4）尤其需要注意的，AI应用开发过程中，除了要警惕直接构成淫秽物品的传播外，还需要警惕擦边违规内容的审查，避免产生不必要的法律风险。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
往期文章推荐：
人工智能
三问“中国AI生成物可版权性第二案”
驳回起诉：OpenAI暂时击败了新闻媒体关于AI训练的版权诉讼｜附原文和翻译
AI开始关心你的便便，挂上摄像头的马桶，要不要来一个？
爱，死亡，与AI：一个因AI而死的少年
可以控制电脑的Claude3.5，离自己上班还有多远
AI搜索还能不能行了？
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
德国法院：使用摄影作品训练AI模型不构成侵权
帮你写简历？LinkedIn是如何使用你的个人信息的
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知
中国人工智能监管及政策文件汇编
重磅：网安标委颁布《人工智能安全治理框架》1.0版
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
大模型厂商使用用户输入信息训练AI的合规策略
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
政府补贴｜数据资源入表/人工智能算法备案奖励政策梳理（附原文｜广州）
双十一，手可以剁，但千万不可以抖｜开屏摇一摇
数据资产 | 数据资源入表，到底应该如何开展工作？
最新发布：《网络数据安全管理条例》1月1日起施行
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 如何在农业领域发挥数据要素乘数效应
数据资产 | 公交领域数据入表案例盘点与分析
数据圆桌｜数字化智能化改造最新税收优惠政策解读
醒醒吧！虚拟币征税=交易合法？
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据合规 | 家长们最在意的“青少年模式”如何做好合规？
影响数字经济领域的指导案例发布，虚拟币交易的未来何去何从？
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
观点汇编 | 数据权益的保护路径
新书资讯
诚邀参编｜全新司法解释下侵权责任编实务问答新书
通知查收｜《工程老板必备法律锦囊》出书共创群
重磅推荐：《网络犯罪办案实务指南》新书上市
---
《法律人ChatGPT应用指南》，可直接点击下图购买：