微软近期将一个AI犯罪团伙起诉至弗吉尼亚州联邦法院，指控该组织通过开发工具来绕开Azure OpenAI服务中的关键安全机制，违反了《计算机欺诈与滥用法》《数字千年版权法》《兰哈姆法案》等。
由于微软未能掌握被告的真实身份，10名被告都叫做John Doe。其中三人被指控为开发绕过AI安全护栏工具的主谋，其余七人涉嫌使用破坏工具生成有害内容。
这个网络犯罪团伙究竟干了些什么？
1.窃取Microsoft用户的API密钥，创建“黑客即服务”
被告从多个有权使用Azure OpenAI服务的微软用户那里窃取了Microsoft API 密钥。微软没有明确说明被告是如何盗用合法的用户账户，但在起诉状中表明，被告会创建工具来搜索代码存储库，以寻找API密钥。
被告利用盗取而来的API密钥创建了一个叫做“黑客即服务”的项目，该项目能够让用户通过特定网站访问Azure OpenAI服务。
被告使用定制的HTTP请求，其中包括被盗的API密钥和其他用户认证信息，以绕过微软的安全措施，并获取对Azure OpenAI服务的非法访问权限。
“de3u”非法软件工具
被告开发了一个名为“de3u”的客户端软件工具，该工具允许用户通过简单的用户界面使用Azure OpenAI服务生成图像。
（被告向用户提供的“de3u”软件界面）
“de3u”软件允许用户绕过Azure OpenAI Service API请求参数的限制，例如更改目标端点地址等。“de3u”软件的设计让那些技术能力较差的用户也可以轻松地利用被盗的API密钥，而无需编写自己的代码。
目前已无法在GitHub上访问的“de3u”项目代码的存储库。
oai反向代理服务
在起诉状中，微软指出，被告开发了一个oai反向代理服务，该服务允许“de3u”用户访问Azure OpenAI服务。、
具体而言，oai反向代理服务通过Cloudflare隧道，将“de3u”用户的通信传输到Azure OpenAI服务。oai反向代理服务能够处理和修改“de3u”客户端计算机和目标Azure OpenAI服务之间的通信流量。如起诉中的图片所示：
4.生成大量有害和非法内容
被告通过前述手段，使用Azure OpenAI服务生成了大量有害图像，已经违反了相关的法律规定和微软的平台使用规则。
微软禁止使用其生成式人工智能系统创建展示或宣扬性剥削或性虐待或色情内容，或基于种族、民族、国籍、性别、性别认同、性取向、宗教、年龄、残疾状况或类似特征攻击、诋毁或排斥他人等内容。
除了明确禁止使用其平台来生成或传播相关内容，微软还通过内容过滤系统、用户滥用监测、人工审查等防护机制，来检查用户输入的提示词和输出的结果，以检查所请求的内容是否违反了微软的使用条款。
微软指控被告违反了哪些法律？
1.违反《计算机欺诈与滥用法》（Computer Fraud and Abuse Act, CFAA）
被告未经授权访问微软的计算机系统，违反《计算机欺诈与滥用法》。
微软在诉状中指出，被告的行为在一年内给微软造成了总计至少5000美元的损失。微软的内部人员和外部法律顾问已经花了几个月的时间调查和努力来纠正被告的行为，微软所支出的费用远远超过CFAA规定的5000美元的门槛。此外，被告通过欺诈手段从微软公司获得的服务价值也已超过5000美元。
违反《数字千年版权法》（Digital Millennium Copyright Act, DMCA）
被告传播了主要用于规避微软技术措施的技术和服务，被告故意规避微软控制对其受版权保护作品访问的技术措施，给微软造成实际损失。
违反《兰哈姆法案》（《美国商标法》，Lanham Act）
被告未经授权生成了包含微软商标的图像，并可能造成公众对被告和微软之间的关联产生混淆。被告的行为损害了微软的声誉，并可能淡化微软的著名商标。
在中国，被告可能触犯哪些法律？
被告未经授权，窃取用户密钥，开发并对外提供可以非法访问和控制原告计算机系统的软件工具，可能触犯中国《刑法》第285条第3款，属于提供专门用于侵入、非法控制计算机信息系统的程序、工具，或者明知他人实施侵入、非法控制计算机信息系统的违法犯罪行为而为其提供程序、工具，可能构成“提供侵入、非法控制计算机信息系统程序、工具罪”。
根据《关于办理危害计算机信息系统安全刑事案件应用法律若干问题的解释》第3条，提供专门用于侵入、非法控制计算机信息系统的程序、工具，或者明知他人实施侵入、非法控制计算机信息系统的违法犯罪行为而为其提供程序、工具达二十人次以上的，或违法所得五千元以上或者造成经济损失一万元以上的，则构成“情节严重”，处三年以下有期徒刑或者拘役，并处或者单处罚金。
提供专门用于侵入、非法控制计算机信息系统的程序、工具，或者明知他人实施侵入、非法控制计算机信息系统的违法犯罪行为而为其提供程序、工具达一百人次以上的，或违法所得两万五千元以上或者造成经济损失五万元以上的，则构成“情节特别严重”，处三年以上七年以下有期徒刑，并处罚金。
在去年国内首例“AI外挂”犯罪案件中，被告人王某合等人通过制作出售“AI外挂”点卡密码等方式牟利，非法获利共计629万余元。经鉴定，案涉“AI外挂”中“cvc”等程序对多款游戏中游戏画面数据进行了未授权获取，对游戏中处理的鼠标数据指令进行了未授权的修改，增加了游戏中“自动瞄准”和“自动开枪”的功能，干扰了游戏的正常运行环境，属于破坏性程序。盒子程序源代码具有接收计算机USB端口传输的鼠标数据指令，并对指令进行计算解析，再将计算结果发送至计算机USB端口，从而实现控制计算机鼠标指针自动移动和点击的功能。
鹰潭市余江区人民法院对被告人王某合以提供侵入、非法控制计算机信息系统程序、工具罪判处有期徒刑三年，缓刑五年，并处罚金；已退缴的违法所得及扣押的作案工具予以没收，上缴国库；剩余未退缴的个人违法所得继续追缴。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
「AI合规圈」往期文章推荐：
人工智能
三问“中国AI生成物可版权性第二案”
驳回起诉：OpenAI暂时击败了新闻媒体关于AI训练的版权诉讼｜附原文和翻译
AI开始关心你的便便，挂上摄像头的马桶，要不要来一个？
爱，死亡，与AI：一个因AI而死的少年
可以控制电脑的Claude3.5，离自己上班还有多远
AI搜索还能不能行了？
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
德国法院：使用摄影作品训练AI模型不构成侵权
帮你写简历？LinkedIn是如何使用你的个人信息的
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知
中国人工智能监管及政策文件汇编
重磅：网安标委颁布《人工智能安全治理框架》1.0版
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
大模型厂商使用用户输入信息训练AI的合规策略
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
政府补贴｜数据资源入表/人工智能算法备案奖励政策梳理（附原文｜广州）
双十一，手可以剁，但千万不可以抖｜开屏摇一摇
数据资产 | 数据资源入表，到底应该如何开展工作？
最新发布：《网络数据安全管理条例》1月1日起施行
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 如何在农业领域发挥数据要素乘数效应
数据资产 | 公交领域数据入表案例盘点与分析
数据圆桌｜数字化智能化改造最新税收优惠政策解读
醒醒吧！虚拟币征税=交易合法？
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据合规 | 家长们最在意的“青少年模式”如何做好合规？
影响数字经济领域的指导案例发布，虚拟币交易的未来何去何从？
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
观点汇编 | 数据权益的保护路径
新书资讯
诚邀参编｜全新司法解释下侵权责任编实务问答新书
通知查收｜《工程老板必备法律锦囊》出书共创群
重磅推荐：《网络犯罪办案实务指南》新书上市
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
