炸裂的功能
最新上市的“遥遥领先”，你拿到手了吗？华为pura70官网上架约一分钟即告售罄。
华为手机本来就极为难抢，但新手机上的原生炸裂功能“AI一键脱衣”，更是让这台新款手机登上热搜。
这个“一键脱衣”功能有多炸裂？
用户使用Pura70自带的图像编辑功能时，可以通过AI，自动消除照片背景中的路人、杂物等内容。但随着用户使用的深入，有些用户发现只需要在衣领位置进行简单涂抹，点击“开始修图”，就可以自动消除人物的衣领部分……
《大河报》转载了网友的测评：
选择一张女性的照片，选择“手动选除”，然后在衣领的位置进行涂抹：
涂抹后，点击“开始修图”，AI功能会先消除涂抹的位置，再补充裸露的皮肤：
用户的反馈，同样也是让人感到惊讶。有抗拒的：
有认为“技术中立”的：
有用戏谑的方式表示支持的：
（很遗憾，根据不完全统计，这部分人数最多）
尤其让我觉得不适的是这个言论：
随着事件的持续发酵，华为官方的工作人员对外回应，该AI功能属自研大模型，存有漏洞，并表示后续会优化处理。根据记者的实测，目前该手机已经修复了该“漏洞”：
视频号“趣测评”一次性对比了华为pura 70 ultra、vivo x100 pro、小米14ultra、OPPO find X7 ultra这四款手机的“AI消除”功能。
发现vivo手机和小米手机可以实现口罩的消除，而华为和OPPO的手机则拒绝了消除口罩的指令。（从博主的反应来看，博主对于vivo的消除效果相当满意，甚至表示消除后的照片，和照片中的女士本人已经非常像了）。
可以预见的是，在未来“美图”的赛道里，“AI消除”必然是各大厂商（包括软硬厂商和应用厂商）获取用户的重要功能。
那么，这个功能有哪些必须注意的法律和伦理风险呢？
风险防范
1.传播淫秽物品罪的风险
根据《刑法》第三百六十七条的规定，淫秽物品是指具体描绘性行为或者露骨宣扬色情的淫秽性的书刊、影片、录像带、录音带、图片及其他淫秽物品。
仅从目前网络上流传的图片来看，无论是提供AI消除功能的硬件厂商，还是兴致勃勃地使用“AI消除”功能传播图片的用户，其生成或传播的图片，均不属于“描绘性行为”或者“露骨宣扬色情”的程度，因此并未达到“淫秽物品”的标准。
但此罪的风险仍然需要得到高度关注。
去年流传极为广泛的“广州地铁美女裸照事件”，当事人在社交平台上的照片，就被有心之人使用AI技术，做成了杀伤力极强的裸照，给当事人造成了很大的困扰。
AI一键脱衣早就不是什么新鲜事儿了。2019年的DeepNude，用AI技术可以轻易地将衣物遮挡的身体部位替换成无遮挡的效果，斯嘉丽、艾玛沃森等国际女星饱受其害，今年年初，国外社交平台推特甚至因为霉霉Taylor Swift合成照片的疯传，暂停了“霉霉”“Taylor Swift”的关键字搜索。
2023年11月，杭州市萧山区人民法院判决被告人虞某犯制作、传播淫秽物品牟利罪，判处有期徒刑七年三个月，并处罚金6万元。在该案中，虞某利用“AI换脸”软件生成大量淫秽视频进行传播，被换脸的既包括不少女明星等公众人物，也包括普通人。[1]
可见，提供或者使用“AI消除”功能进行修图的用户或者厂商，都应当关注“制作、贩卖、传播淫秽物品罪”的风险，因为项目而身陷囹圄，显然得不偿失。
2.违反《暂行办法》的合规风险
根据《生成式人工智能服务管理暂行办法》（本文称“《暂行办法》”）第四条的规定，提供和使用生成式人工智能服务，应当坚持社会主义核心价值观，不得生成……暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容……不得危害他人身心健康，不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益。
“AI消除”功能，除了不得生成淫秽色情有害内容外，还不得侵害他人的肖像权、隐私权。生成式人工智能生成的图片结果可能存在一定的偶然性，但如果未经肖像权人同意，生成了与其本人非常相似的图片（这种偶然性是存在的，正如前文“趣测评”的博主，生成了与女士本人非常相似的照片），就存在侵犯他人肖像权、隐私权的可能性。
况且，口罩除了防范病毒的功能外，本身也具备遮挡脸部的隐私保护功能，使用AI消除“生成”脸部信息，是否需要获得个人的单独同意，也是一个值得讨论的问题。
根据《暂行办法》第十四条的规定，提供者发现违法内容的，应当及时采取停止生成、停止传输、消除等处置措施，采取模型优化训练等措施进行整改，并向有关主管部门报告。
所以我们也看到了，目前华为已经修复了该“漏洞”，停止了相关内容的生成。
我们建议，除了必要的“红队测试”（识别潜在的有害能力、有问题的输出或基础设施漏洞）[2]，还需要进行“科技伦理审查”，由外部的伦理、法律专家组成“科技伦理（审查）委员会”，依据《科技伦理审查办法（试行）》的规定，开展科技伦理风险评估。
律师说
广泛流传在评论区的“技术中立”论调是不妥的。
“武功没有对错，错的是练武之人”，如果认为这句话是对的，那么它完全可以被套用在任何被管制的物品上，比如“枪没有对错，错的是用枪之人”。但我们都知道，枪支造成大范围杀伤的可能性太大、太便捷了。如果不进行管制，灯塔国的窘境完全可能在我们国家重演。但是，同样能杀人的菜刀，大规模杀伤能力差，虽然也能杀人，却不会被管制。
AI技术某种程度上也是一样的。水平高超的设计师，使用PS工具也可以实现换装。但相比于“一键”完成的AI技术，PS工具使用门槛高，效果难以实现，不会有太大的“杀伤力”。因此，能够实现“一键脱衣”的AI技术，一定是会被严格限制的。
---
[1]钟雨欣,英国宣布利用AI制作“深伪”色情图将被定罪,
https://www.eeo.com.cn/2024/0417/652888.shtml
[2]《我参加了OpenAI红队的活动，并带来了一些笔记》，赛博禅心，
https://new.qq.com/rain/a/20240330A0603C00
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》团体标准起草人。
李琪瑶 律师
李琪瑶律师，华南理工大学法律硕士研究生，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
陈焕
《法律人ChatGPT应用指南》作者
隆安湾区人工智能法律研究中心主任
隆安广州数字经济部副部长
\*链接100位AIGC从业者，共创AIGC合规书籍，让AI+法律赋能百业千行。扫描添加作者微信，请备注姓名+单位。