AI正在被用于造谣和诽谤
“三只羊录音门”事件算是尘埃落定了。根据警方通报：
传播录音的王某某的电脑、手机和制作AI音频的网站中，被发现伪造相关音视频的证据。结合王某某供述、调查取证和鉴定，认定报案所涉网传音视频系伪造。
公安机关查明，9月16日，王某某利用从互联网下载的音视频资料，杜撰卢某某酒后言论脚本，先使用AI工具训练生成假冒卢某某的音频（其中出现的女声也系AI工具训练生成），后用视频软件合成音视频，并通过网络发布，形成谣言大量传播。目前，王某某已被依法采取刑事强制措施，案件正在进一步侦办中。
自ChatGPT爆火以来，国外也发生了几起因AI生成诽谤性言论引起的争议案件。
2023年4月，澳大利亚一地区市长Brian Hood计划起诉OpenAI，指控ChatGPT散布虚假信息，将Brian Hood形容成一个“澳大利亚储备银行子公司外国贿赂丑闻的罪犯”，诬陷Brian Hood被指控在1999年至2005年间贿赂马来西亚、印度尼西亚和越南的官员，因犯虚假会计罪被判处30个月监禁等。
2023年6月，OpenAI迎来首起诽谤诉讼，电台主持人Mark Walters正式对OpenAI提起诉讼，称ChatGPT对自己进行了“虚假和恶意的诽谤”。ChatGPT将Walters的名字附在了一份刑事诉讼案件，并为Walters捏造了一项利用职务之便诈骗、贪污基金会资金的罪名。
2023年7月，微软也因生成诽谤言论被起诉。原告Jeffrey Battle是一名退伍军人，因与恐怖组织“波特兰七人帮”成员同名，原告被微软的Bing诬告为恐怖分子，对其名誉造成重大损害。
前述案件目前暂未看到最新的进展，专家学者对这些案件讨论主要围绕生成式人工智能提供者能否成为归责主体、用户诱导的介入因素、能否适用合理使用规则、能否适用“避风港”规则等问题进行讨论。
当下，人工智能诽谤侵权的认定尚有许多亟待解决的问题，作为人工智能服务提供者，也被推上了风口浪尖。
Google和Meta可能因AI摘要而面临诽谤风险
近日，谷歌开始在Google地图中引入Gemini AI，用户可以在Google地图中向Gemini AI提问地点和相关资讯，同时Gemini AI还将对用户检索的餐厅等地点的点评进行总结，生成关于用户评论的摘要。
Meta也在自己的产品中增加了AI摘要功能。
对此，澳大利亚的法律专家警告这些人工智能巨头：如果生成的AI摘要涉及诽谤性的用户评论，则平台可能因违反澳大利亚诽谤法而需承担责任。
根据澳大利亚诽谤法，个人发布不实或贬低言论，受害者可以向法院提起民事诉讼，要求诽谤者赔偿受害者的经济损失和精神损失等。
在澳洲构成诽谤，通常需要考虑诽谤“三要素”：
发布的内容具有诽谤性质
诽谤信息指向的是原告本人
诽谤信息已传达给原被告之外的第三方
澳洲诽谤法自立法以来，主要针对发布诽谤言论的自然人。但在2021年，澳洲高等法院在迪伦·沃勒（Dylan Voller）案件中作出了具有里程碑意义的裁决，裁定为诽谤性言论提供平台的新闻媒体和社交媒体平台也可能被追究法律责任。至此，平台也可能因载有诽谤性评论而违反澳洲诽谤法。
生成式人工智能时代的到来也给AI生成的评论摘要能否适用于诽谤法带来一定的挑战。
悉尼大学高级法学讲师大卫·罗尔夫（David Rolph）教授表示，澳大利亚近期对诽谤法的修订并没有考虑到生成式人工智能。
传统的诽谤概念主要涉及人类创建和直接发布的内容，人工智能的介入带来一系列的法律挑战，包括Meta之类的公司能否成为承担诽谤法律责任的主体，什么情况下的AI摘要才构成诽谤言论等问题，实践中争议较大。
国内《生成式人工智能服务管理暂行办法》在征求意见的阶段，也曾要求“利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息”，该草案引发人工智能行业的讨论和反对，在正式施行的办法里被删除。可见，要求AI公司承担内容真实性的责任，恐怕在当前没有可行性。
承担诽谤法律责任的主体，还是应当在原有的法律框架下进行讨论。
利用AI诽谤他人，在我国应承担什么法律责任？
在我国，如果以侮辱、诽谤等方式损害他人名誉，主要通过民事和刑事两种路径解决，即名誉权民事侵权和诽谤罪刑事犯罪，我们将分别讨论：
1.名誉权民事侵权：
名誉权作为具体人格权之一，我国《民法典》第一千零二十四规定：
民事主体享有名誉权。任何组织或者个人不得以侮辱、诽谤等方式侵害他人的名誉权。
名誉是对民事主体的品德、声望、才能、信用等的社会评价。
以侮辱、诽谤等方式实施违法行为：侮辱、诽谤行为既包括口头等行为方式，也包括文字方式。侮辱、诽谤是比较典型且较恶劣的侵害名誉权行为，实践中侵害名誉权的行为并不局限于这两种。
导致受害人的社会评价降低：判断受害人社会评价是否降低，应当以社会一般人的评价为标准进行判断，而非仅以受害人自己的主观感受为标准，且行为人侵害他人名誉权的行为需要被受害人以外的人知悉。但如果行为人发布的信息或所作的陈述真实客观，且没有包含侮辱诽谤性的内容，即使受害人认为自己的名誉受到了损害，也不构成名誉权侵权。
行为人具有过错：名誉权侵权属于一般侵权行为，需要符合过错要件，过错可以表现为故意和过失。
2.诽谤罪
根据《刑法》第246条的规定，如果捏造事实诽谤他人，情节严重的，则构成诽谤罪，可以处三年以下有期徒刑、拘役、管制或者剥夺政治权利。
而诽谤罪在我国属于自诉案件，也就是被害人需要自行收集证据向法院起诉，除非属于“严重危害社会秩序和国家利益”的情形，才有可能转为公诉案件。
中华人民共和国刑法（2023修正）
第二百四十六条 以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人，情节严重的，处三年以下有期徒刑、拘役、管制或者剥夺政治权利。
前款罪，告诉的才处理，但是严重危害社会秩序和国家利益的除外。
通过信息网络实施第一款规定的行为，被害人向人民法院告诉，但提供证据确有困难的，人民法院可以要求公安机关提供协助。
而针对什么是“捏造事实诽谤他人”，司法解释也列举了几种情形：
《最高人民法院、最高人民检察院关于办理利用信息网络实施诽谤等刑事案件适用法律若干问题的解释》（法释〔2013〕21号，本文简称“司法解释”）
第一条 具有下列情形之一的，应当认定为刑法第二百四十六条第一款规定的“捏造事实诽谤他人”：
（一）捏造损害他人名誉的事实，在信息网络上散布，或者组织、指使人员在信息网络上散布的；
（二）将信息网络上涉及他人的原始信息内容篡改为损害他人名誉的事实，在信息网络上散布，或者组织、指使人员在信息网络上散布的；
明知是捏造的损害他人名誉的事实，在信息网络上散布，情节恶劣的，以“捏造事实诽谤他人”论。
3.名誉权侵权与诽谤罪的边界
诽谤犯罪与名誉权侵权的具体行为，往往都涉及以侮辱、诽谤等方式损害他人名誉。
而判断到底属于民事侵权纠纷还是刑事犯罪，关键区别在于“情节是否严重”。
对于利用信息网络诽谤他人的犯罪行为，司法解释也指明了“情节严重”的判断标准：
第二条 利用信息网络诽谤他人，具有下列情形之一的，应当认定为刑法第二百四十六条第一款规定的“情节严重”：
（一）同一诽谤信息实际被点击、浏览次数达到五千次以上，或者被转发次数达到五百次以上的；
（二）造成被害人或者其近亲属精神失常、自残、自杀等严重后果的；
（三）二年内曾因诽谤受过行政处罚，又诽谤他人的；
（四）其他情节严重的情形。
尽管司法解释对“情节严重”的标准进行释明，但实践中对于侦查机关对于“情节严重”的认定仍具有一定的主观性，此类案件刑事立案较为困难，以民事纠纷处理居多。笔者在案例数据库检索，判决构成诽谤罪的判决书仅有170份，可见诽谤罪刑事定罪的难度。
除了民事和刑事责任，根据《治安管理处罚法》，公然侮辱他人或者捏造事实诽谤他人的，可以五日以下拘留或者五百元以下罚款；情节较重的，处五日以上十日以下拘留，可以并处五百元以下罚款。
结合前述“三只羊录音门”事件来看，首先，受害人可以依法提起名誉权侵权民事诉讼，要求行为人停止侵权、赔礼道歉和赔偿损失等。其次，行为人王某某可能构成诽谤罪。王某某故意捏造并散布虚构的事实，贬损王某某的名誉，在网上被浏览的次数远远超过司法解释的规定的点击、浏览次数五千次的标准，结合王某某的主观恶意，可以认定构成诽谤罪。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
往期文章推荐：
人工智能
AI开始关心你的便便，挂上摄像头的马桶，要不要来一个？
爱，死亡，与AI：一个因AI而死的少年
可以控制电脑的Claude3.5，离自己上班还有多远
AI搜索还能不能行了？
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
德国法院：使用摄影作品训练AI模型不构成侵权
帮你写简历？LinkedIn是如何使用你的个人信息的http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485495&idx=1&sn=d62c1ccaa230490565b41d4a183b6f78&chksm=9b4ade4cac3d575ad9554bab93813ffaef8381435712afca0b9b68451066fac2fd307d927b24&scene=21#wechat_redirect
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485447&idx=1&sn=c60ec7d503c410ba89354196a4fc80f1&chksm=9b4ade7cac3d576adce5559b3e8cfeee0134a73aded5edc72b11b1b791ba31ae998564f18c8b&scene=21#wechat_redirect
中国人工智能监管及政策文件汇编
重磅：网安标委颁布《人工智能安全治理框架》1.0版
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485274&idx=1&sn=034cd253b62141eee8dee891f3e7031d&chksm=9b4ad121ac3d5837f35fa0dcd633afa466b0748df362437b24079a62bcdf23ef93e188d89707&scene=21#wechat_redirect
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
大模型厂商使用用户输入信息训练AI的合规策略
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
数据资产 | 数据资源入表，到底应该如何开展工作？
最新发布：《网络数据安全管理条例》1月1日起施行
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485363&idx=1&sn=a8cf92b97ca7c8b230c4fdf81d0b1cb7&chksm=9b4ad1c8ac3d58de19d812d002cfce9db1f70f7ff70f05d4755e0daabd0b67d50fa664f84dd7&scene=21#wechat_redirect
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 如何在农业领域发挥数据要素乘数效应
数据资产 | 公交领域数据入表案例盘点与分析
数据圆桌｜数字化智能化改造最新税收优惠政策解读
醒醒吧！虚拟币征税=交易合法？
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据合规 | 家长们最在意的“青少年模式”如何做好合规？
影响数字经济领域的指导案例发布，虚拟币交易的未来何去何从？
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
观点汇编 | 数据权益的保护路径
http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247484863&idx=1&sn=f65eebe533851357f7857d1e747a208a&chksm=9b4ad3c4ac3d5ad2d7a91a963ea9b724ff2d644eba3ef0635084246988aa090088c8e508b855&scene=21#wechat_redirect
新书资讯
诚邀参编｜全新司法解释下侵权责任编实务问答新书
通知查收｜《工程老板必备法律锦囊》出书共创群
重磅推荐：《网络犯罪办案实务指南》新书上市
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
