美国人的副业：制造假新闻
不知道有多少人跟我一样，每天要刷几次“美国大型综艺选秀节目”，看看建国和哈哈姐又有什么大瓜。
和往届一样，特朗普和哈里斯将进入最后的几个摇摆州的终极决斗。
但和以前不同的是，擅长“推特治国”的特朗普，遇上了AI时代有更多fake news的推特（X）。
在这样的超高热度话题上，X上的一些用户，用人工智能生成各种虚假的图像，炮制各种错误的选举信息，传播各种毫无根据的阴谋论……
靠这样的方法，他们赚得盆满钵满，“他们表示，他们从社交媒体网站获得了数千美元的报酬。”
一名X用户表示，他制作了一张经过篡改的图像，声称显示卡玛拉·哈里斯（Kamala Harris）年轻时在麦当劳工作。
（假照片：卡玛拉·哈里斯穿着麦当劳制服的假照片）
更早些时候，有人在美国遭受“海伦妮”飓风肆虐期间，制作了一张“一个楚楚可怜的小女孩，身着救生衣，在救生艇上眼中含泪抱着一只小狗”的虚假图片。
随后，共和党全国委员会的委员、Women for Trump的联合创始人Amy Kremer借题发挥，发在X上推文，攻击执政党应对“海伦妮”飓风的失责。
但这也仅是深度伪造内容在社交平台上的一个缩影。
根据一家追踪在线言论的组织所发布的报告内容，在抽取的283个被视作具有误导性的帖子样本里，竟有209个未显示能纠正美国选举相关虚假和误导性言论的准确注释，比例高达74%。
可以说，美国社交平台上的AI假新闻，已经泛滥成灾。
民众对AI生成内容充满担忧
根据国外的一项研究显示，2024年全球60多个国家/地区将举行全国大选，预计今年将有大约20亿选民（约占世界人口的四分之一）前往投票站投票。因此，2024年被称为超级选举年，甚至是历史上最大的选举年。
这样的大年份，赶上了生成式人工智能的爆发式增长，这引发了人们的广泛关注。
39%的美国人表示，人工智能在总统竞选期间将主要用于不良目的，而只有5%的人表示它将主要用于良好目的。另有27%的人表示，它将大致平等地用于好事和坏事。
57%的美国成年人（包括几乎相同比例的共和党人和民主党人）表示，他们非常或非常担心试图影响选举的个人或组织会使用AI来创建和分发有关候选人和竞选活动的虚假或误导性信息。
截至7月31日，全美各地共提出或通过了151项针对选举背景下的深度伪造和欺骗性媒体的法案。
OpenAI在月初的一项报告中提出：自今年年初以来，我们已经破坏了来自世界各地的20多个试图使用我们模型的运营和欺骗性网络……我们将继续与情报、调查、安保、安全和政策团队合作，以预测恶意行为者如何利用高级模型实现危险目的，并适当地规划实施步骤。
从OpenAI的详细报告来看，OpenAI主要通过追踪疑似与选举有关的内容，结合这些内容在社交平台上的传播度，来对其平台生成的内容进行监管。
但现在看起来，法案也好，科技巨头的措施也好，似乎难以抑制社交媒体上的假消息泛滥，民众对AI的忧虑似乎也没有得到很好的缓解。
一点思考
简单横向比较一下中欧关于AI深度伪造内容的规定：
1.《欧盟人工智能法案》（人大丁晓东教授翻译版）
第50条 特定人工智能系统的提供者和部署者的透明度义务……4.生成或操纵构成深度伪造的图像、音频或视频内容的人工智能系统的部署者，应当披露该内容是人为生成或操纵的……如果内容构成明显具有艺术性、创造性、讽刺性、虚构类比的作品或节目的一部分，本段规定的透明度义务限于，以不妨碍作品展示或欣赏的适当方式披露存在此类生成或操纵内容。
2.《生成式人工智能服务管理暂行办法》
第四条提供和使用生成式人工智能服务，应当遵守法律、行政法规，尊重社会公德和伦理道德，遵守以下规定：
（一）坚持社会主义核心价值观，不得生成煽动颠覆国家政权、推翻社会主义制度，危害国家安全和利益、损害国家形象，煽动分裂国家、破坏国家统一和社会稳定，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情，以及虚假有害信息等法律、行政法规禁止的内容。
第二十一条 构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
从效果上看……
（某篮球球星相关的疑似深度伪造内容下架截图）
还挺明显的。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
往期文章推荐：
人工智能
AI开始关心你的便便，挂上摄像头的马桶，要不要来一个？
爱，死亡，与AI：一个因AI而死的少年
可以控制电脑的Claude3.5，离自己上班还有多远
AI搜索还能不能行了？
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
德国法院：使用摄影作品训练AI模型不构成侵权
帮你写简历？LinkedIn是如何使用你的个人信息的http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485495&idx=1&sn=d62c1ccaa230490565b41d4a183b6f78&chksm=9b4ade4cac3d575ad9554bab93813ffaef8381435712afca0b9b68451066fac2fd307d927b24&scene=21#wechat_redirect
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485447&idx=1&sn=c60ec7d503c410ba89354196a4fc80f1&chksm=9b4ade7cac3d576adce5559b3e8cfeee0134a73aded5edc72b11b1b791ba31ae998564f18c8b&scene=21#wechat_redirect
中国人工智能监管及政策文件汇编
重磅：网安标委颁布《人工智能安全治理框架》1.0版
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485274&idx=1&sn=034cd253b62141eee8dee891f3e7031d&chksm=9b4ad121ac3d5837f35fa0dcd633afa466b0748df362437b24079a62bcdf23ef93e188d89707&scene=21#wechat_redirect
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
大模型厂商使用用户输入信息训练AI的合规策略
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
数据资产 | 数据资源入表，到底应该如何开展工作？
最新发布：《网络数据安全管理条例》1月1日起施行
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485363&idx=1&sn=a8cf92b97ca7c8b230c4fdf81d0b1cb7&chksm=9b4ad1c8ac3d58de19d812d002cfce9db1f70f7ff70f05d4755e0daabd0b67d50fa664f84dd7&scene=21#wechat_redirect
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 如何在农业领域发挥数据要素乘数效应
数据资产 | 公交领域数据入表案例盘点与分析
数据圆桌｜数字化智能化改造最新税收优惠政策解读
醒醒吧！虚拟币征税=交易合法？
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据合规 | 家长们最在意的“青少年模式”如何做好合规？
影响数字经济领域的指导案例发布，虚拟币交易的未来何去何从？
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
观点汇编 | 数据权益的保护路径
http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247484863&idx=1&sn=f65eebe533851357f7857d1e747a208a&chksm=9b4ad3c4ac3d5ad2d7a91a963ea9b724ff2d644eba3ef0635084246988aa090088c8e508b855&scene=21#wechat_redirect
新书资讯
诚邀参编｜全新司法解释下侵权责任编实务问答新书
通知查收｜《工程老板必备法律锦囊》出书共创群
重磅推荐：《网络犯罪办案实务指南》新书上市
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
