将欧盟人工智能法案的要求解读为技术要求
10月16日，苏黎世联邦理工学院、INSAIT和LatticeFlow AI联合宣布推出首个面向生成式人工智能模型的评估框架——COMPL-AI。COMPL-AI可以用于评估大模型是否符合欧盟人工智能法案的要求，并首次将欧盟人工智能法案的监管要求解读为具体的技术要求。
（一键完成合规评估）
遗憾的是，科技巨头的AI在评估中表现不佳
研究团队根据该评估框架，对OpenAI、Meta、谷歌、阿里巴巴等科技公司的AI模型进行评估：
（1）针对欧盟人工智能法案规定的伦理评估。内容包括大模型的技术鲁棒性与安全性、隐私与数据治理、透明度、多样性、非歧视和公平性、社会和环境福祉的伦理要求，各大模型的评估结果如下：
（根据欧盟人工智能法案的伦理要求，对模型的评估结果）
（2）针对欧盟人工智能法案规定的技术要求评估。内容包括对模型的鲁棒性与可预测性、网络攻击弹性、无版权侵权、性能与局限性、可解释性、人工智能的披露、“代表性—无偏差”“公平性—无歧视”、有害内容和有毒性，各大模型的评估结果如下：
（根据欧盟人工智能法案的技术要求，对模型的评估结果）
可以看到，在伦理原则和技术要求的合规性综合评分上，排在前三的均是GPT-4Turbo、Claude3 Opus和Llama 3-70B Instruct。
在具体的合规要求上，部分科技巨头的大模型并未达到欧盟AI法案的监管要求。许多模型在网络攻击弹性和公平性基准上的得分仅为50%左右。
欧盟委员会：COMPL-AI能够帮助企业达到欧盟AI法案的要求
对于首个将欧盟AI法案要求转化为技术要求的评估工具，欧盟委员会发言人Thomas Regnier表示欢迎这项研究和该AI模型评估框架，称将其作为将欧盟人工智能法案转化为技术要求的第一步，能够帮助模型提供者达到AI法案的要求。
根据TechCrunch的报道，COMPL-AI的研究团队表示，该合规评估框架在设计上便于更新，能够随着欧盟人工智能法案的更新迭代，和各个工作部门的进展保持同步。研究团队邀请人工智能的相关研究人员、监管机构加入，持续开发该评估框架，以建立一个全面且综合的人工智能法案评估平台。
据了解，目前国内似乎暂无针对我国人工智能监管规则开发的评估平台或评估工具，但在人工智能之外的其他合规场景下，此前已有部分机构和企业，针对国内的法律法规、标准性文件和行业实践等，开发了合规评估平台，包括中国电信研究院开发的“开源软件合规评估平台”和“开源软件合规评估平台”，中关村软件园发布的“数据合规与出境评估服务平台”等。
可以预见的是，随着我国人工智能领域的立法逐渐完善、监管经验的逐渐丰富，以及欧盟国家对评估大模型探索，适用于我国AI行业实践的合规评估大模型的推出，并不会太过遥远。
不知道AI行业、以及入局AI合规领域的律师，都准备好了没有。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
往期文章推荐：
人工智能
一文速通AI黑话：随查随用，聊天不慌（法律人全集版）
比飓风更可怕的，是一张 AI 生成图片
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
https://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485551&idx=1&sn=3d00adb677ed2e198099cb9a33097fb1&chksm=9b4ade14ac3d570211662a2ec5838fe8e764f97f0634c4012f1cbb1d6cd6752a03c8dbae2efe&scene=21#wechat_redirect[德国法院：使用摄影作品训练AI模型不构成侵权](https://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485502&idx=1&sn=e355a72ba668531c6e30df0f6585341b&chksm=9b4ade45ac3d575343139a60a63255ccbf98db15aa795cd707f5300c283283f55d96a361ffa4&token=1513513496&lang=zh_CN&scene=21#wechat_redirect)
帮你写简历？LinkedIn是如何使用你的个人信息的
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485447&idx=1&sn=c60ec7d503c410ba89354196a4fc80f1&chksm=9b4ade7cac3d576adce5559b3e8cfeee0134a73aded5edc72b11b1b791ba31ae998564f18c8b&scene=21#wechat_redirect
中国人工智能监管及政策文件汇编
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485274&idx=1&sn=034cd253b62141eee8dee891f3e7031d&chksm=9b4ad121ac3d5837f35fa0dcd633afa466b0748df362437b24079a62bcdf23ef93e188d89707&scene=21#wechat_redirect
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
大模型厂商使用用户输入信息训练AI的合规策略
深夜重磅！OpenAI突然发布SearchGPT，AI 搜索的合规怎么卷？| 附内测申请链接
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485363&idx=1&sn=a8cf92b97ca7c8b230c4fdf81d0b1cb7&chksm=9b4ad1c8ac3d58de19d812d002cfce9db1f70f7ff70f05d4755e0daabd0b67d50fa664f84dd7&scene=21#wechat_redirect
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 公交领域数据入表案例盘点与分析
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
