AI圈又有明星了
早上起来，订阅号被下面这张图填满：
上一次这么热闹，应该还是Sora的消息刚放出来的时候。细看才知道，原来是科技圈里的各种大号，都在跟进今天AI大新闻：
Claude3.5更新，一句话就可以操控电脑了。
事情是这样的，我说简单点：
很多朋友对Claude的认知度，并没有ChatGPT那么高，但当前Claude的实力，相比ChatGPT而言已经毫不逊色，下图是Claude官方的测评图片，你细品。
就这个图片来看：
（1）Claude几乎全面碾压ChatGPT家族产品；
（2）OpenAI的最新模型o1，并没有进行对比，原因是“o1在回答之前，依赖更多的预响应计算时间”。
就在今天，Claude在公测版中推出“计算机使用”的功能。通过这项功能，人类可以用自然语言，来指导Claude像人类一样使用计算机，比如让AI在电脑上查看屏幕上的内容、移动光标、单击按键、输入文字等等原本只有人类才能做到的动作。
目前，这项能力还比较不稳定，但也已经非常惊艳。Claude官方也说：它仍然处于试验阶段有时很麻烦且容易出错。他们提前发布“计算机使用”的功能，以征求开发人员的反馈，并预计该功能将随着时间的推移而迅速改进。
先看看效果：
[视频/嵌入内容](https://mp.weixin.qq.com/mp/readtemplate?t=pages/video_player_tmpl&action=mpvideo&auto=0&vid=wxv_3692235762419924995)
从这个视频可以看出，Claude自己完成了页面浏览、页面截图、信息获取、信息填写等等工作。如果让我用一句话总结这个视频的话，就是：
一个成熟的AI，应该学会自己打工了……
但这些操作，安全吗？
Claude的安全措施
根据Claude官方的描述，更新后的 Claude 3.5的几个版本，以及“计算机使用”的新技能，仍处于“AI Safety Level 2”的等级。所以Claude官方认为，它不需要采取比当前等级更高的安全措施标准。
要知道，Claude所属的Anthropic公司，核心员工大多有着OpenAI的任职履历，除了过硬的人工智能技术水平外，他们还以重视AI伦理、AI安全而被广泛关注。
因此，Anthropic公司提出的“AI Safety Level Standards”，非常值得大家关注。那么它是什么呢？
参考Anthropic官方的通告《Announcing our updated Responsible Scaling Policy》（《宣布更新后的负责任等级策略》，2024年10月15日），我们简要归纳如下：
（1）AI Safety Level Standards (ASL Standards)，是一套分级的安全和安保措施。Anthropic公司根据模型从低到高的能力水平，分别评价为ASL-1、 ASL-2、ASL-3、ASL-4等多个等级，随着等级提高，对应的安全措施会变得更加严格。
（2）目前，Anthropic所有的型号的人工智能，都按照 ASL-2 标准运行。
（3）Anthropic定义了评估模型安全等级的四个维度，他们分别是：“能力阈值”“所需的保护措施”“自主人工智能研究与开发”“化学、生物、放射和核武器”
其中最有趣的是“自主人工智能研究与开发”。如果Anthropic的AI，出现了可以自主研究复杂AI研究任务的能力，那么这可能导致，人工智能会以不可预测的方式发展，在这样的情况下，Anthropic会提高安全标准，比如ASL-4或更高的标准，并提供额外的安全保证。
以欧盟人工智能法案的视角，看Claude3.5的风险等级
欧盟人工智能法案（EU AI Act），将人工智能的风险等级分为四等，分别是：最小风险（Minimal risk）、特定的透明度风险（Specific transparency risk）、高风险（High risk）以及不可接受的风险（Unacceptable risk）。
Anthropic公司与欧盟人工智能法案的视角并不完全一致。仅从目前的材料看来，暂时无法确定今天上线的拥有“计算机使用”的Claude 3.5，是否应当被归入高风险以上的风险等级；且Anthropic公司提出的“AI Safety Level Standards”四个等级，似乎也难以直接对应欧盟人工智能法案的四个等级。
根据欧盟的立法计划，欧盟委员会将在法案生效后的18个月内，提出关于确定AI系统是否为高风险的实用指南。
咱们再等等呗。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
---
往期文章推荐：
人工智能
一文速通AI黑话：随查随用，聊天不慌（法律人全集版）
比飓风更可怕的，是一张 AI 生成图片
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
https://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485551&idx=1&sn=3d00adb677ed2e198099cb9a33097fb1&chksm=9b4ade14ac3d570211662a2ec5838fe8e764f97f0634c4012f1cbb1d6cd6752a03c8dbae2efe&scene=21#wechat_redirect[德国法院：使用摄影作品训练AI模型不构成侵权](https://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485502&idx=1&sn=e355a72ba668531c6e30df0f6585341b&chksm=9b4ade45ac3d575343139a60a63255ccbf98db15aa795cd707f5300c283283f55d96a361ffa4&token=1513513496&lang=zh_CN&scene=21#wechat_redirect)
帮你写简历？LinkedIn是如何使用你的个人信息的
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485447&idx=1&sn=c60ec7d503c410ba89354196a4fc80f1&chksm=9b4ade7cac3d576adce5559b3e8cfeee0134a73aded5edc72b11b1b791ba31ae998564f18c8b&scene=21#wechat_redirect
中国人工智能监管及政策文件汇编
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485274&idx=1&sn=034cd253b62141eee8dee891f3e7031d&chksm=9b4ad121ac3d5837f35fa0dcd633afa466b0748df362437b24079a62bcdf23ef93e188d89707&scene=21#wechat_redirect
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
大模型厂商使用用户输入信息训练AI的合规策略
深夜重磅！OpenAI突然发布SearchGPT，AI 搜索的合规怎么卷？| 附内测申请链接
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485363&idx=1&sn=a8cf92b97ca7c8b230c4fdf81d0b1cb7&chksm=9b4ad1c8ac3d58de19d812d002cfce9db1f70f7ff70f05d4755e0daabd0b67d50fa664f84dd7&scene=21#wechat_redirect
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 公交领域数据入表案例盘点与分析
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
