科思研究

抖音:严厉打击利用AI骗取老年人互动

科思律师事务所 · 2024-10-28

--文末彩蛋预告:剪映“数字人”入口教程--

文章插图

短视频平台上的数字人,有流量吗?

数字人、ChatGPT兴起之后,很多朋友在讨论:数字人出镜的短视频,会有流量吗?

我通常都会告诉大家:会。有两个明显的证据,可以证明平台会给流量。

首先,字节跳动旗下的产品“剪映”,本身就有向用户提供“数字人”的工具。用户找到数字人的入口后,就可以充值使用(使用指引见本文末尾)。从平台的内容逻辑上看,只要是高质量的内容,不管是不是使用AI生成的,平台都会给流量。

其次,像下图这种“一眼假”的内容,点赞量和评论量都相当惊人。就算不能证明平台推了流量,最起码能够证明平台并没有主动限流。

文章插图

那么,给这些内容点赞和评论的网友们,能够识别出来是AI生成的吗?

显然不能。

这条视频的评论区是这样的:

文章插图

很明显,还是有相当多网友,完全没有意识到内容是AI生成的。更何况,我所截图的这条短视频,最起码有三处关于“AI”或者“数字人”的描述。但即便是这样,也不妨碍网友们夸数字人“中文讲得好”……

那么,到底是谁在给这些AI生成的数字人点赞呢?

大概率是老年人群体点的赞。

文章插图

平台正在打击诱骗互动的数字人内容

“抖音黑板报”近日发布了一则公告:

文章插图

从这个公告上来看,数字人已经在短视频平台上泛滥成灾。官方举出来的例子包括:

1.生成小和尚形象,说出“我发现你身边有块绊脚石,我打算给你搬走”“如果觉得小和尚说得对,送给小和尚一朵小红花吧”等话语,骗取老年人互动。(利用了老年人的善念)

2.生成军人形象,以“娘,别滑走,孩子想和您谈谈心”“亲爱的母亲,我正在执行任务,给我一点鼓励”“告诉你一个小秘密,点一下我头像下面的小加号”等口吻,骗取老年人互动。(利用了老年人的亲情)

3.生成AI女性形象,以“大叔,感谢你又来看妹妹了,如果再送我一朵花我会感动一整天”“听说你很厉害,很多美女都喜欢你”“我会做饭、做家务、能聊天,你愿意把我带回家吗”等情感话术诱导,骗取老年人互动。(利用擦边内容博眼球)

可以看出:一方面,数字人不仅有流量,而且流量相当好;另一方面,这些内容,正在欺骗网络辨别能力较低的老年人群体。

平台的措辞已经相当克制了,“骗取互动”之后呢?会不会骗取钱财?会不会骗取情感?会不会有更严重的危害?

文章插图

生成物标识,是AI产品合规的必选项

对于逐渐开始泛滥的数字人,《生成式人工智能服务管理暂行办法》等有关规定,为我们提供了重要指引。

1.服务提供者应该怎么做?

《生成式人工智能服务管理暂行办法》第12条规定,提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。《深度合成管理规定》第16条、第17条规定,服务提供者是标识义务的承担主体,并且要求服务提供者对不同性质的生成内容承担不同程度的标识义务。

(1)不影响用户使用的标识:对生成或者编辑的信息内容,应当采取技术措施添加不影响用户使用的标识,并依照法律、行政法规和国家有关规定保存日志信息。

(2)易造成公众混淆或者误认时应显著标识:提供智能对话、智能写作、合成人声、仿声、人脸生成、人脸替换、沉浸式拟真场景等具有生成或者显著改变信息内容功能服务,可能导致公众混淆或者误认的,应当在生成或者编辑的信息内容的合理位置、区域进行显著标识,向公众提示信息内容的合成情况。

2.用户应该怎么做?

《深度合成管理规定》第18条对人工智能生成物的使用者作出了要求。虽然使用者不需要主动承担标识义务,但仍有不破坏已有标识的义务,不得删除、篡改、隐匿标识。

此外,目前网信办的《人工智能生成合成内容标识办法(征求意见稿)》正在公开征求意见,网安标委对应的强制性国标《网络安全技术 人工智能生成合成内容标识方法》也在同步跟进。这两份文件对服务提供者和用户的义务,都做了进一步的规制。

因此,无论是服务提供者还是普通用户,都应该对这些规定保持高度关注,我们也会第一时间进行进一步的跟进解读。

文章插图

彩蛋:剪映数字人入口教程

工具是中立的,除了要防范工具使用带来的风险;也要善用工具,用工具创造价值。

目前,剪映的“数字人”功能使用成本低、用法简单,入口却藏的比较深,我们给大家做一个入口的指引:

1.APP名称为“剪映”

文章插图

2.打开主页后,点击“开始创作”

文章插图

3.随便上传素材后,在页面底部左滑,找到“数字人”

文章插图

4.选择“定制形象”后,按指引操作充值即可使用。

文章插图

工具有了,流量有了,合规的意识也有了——就看你怎么玩了。

---

作者简介

文章插图

陈 焕 律师

陈焕律师,《法律人ChatGPT应用指南》作者,北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。

文章插图

李琪瑶 律师

李琪瑶律师,英语专业八级。现为北京市隆安(广州)律师事务所律师,隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。

---

往期文章推荐:

人工智能

AI开始关心你的便便,挂上摄像头的马桶,要不要来一个?

爱,死亡,与AI:一个因AI而死的少年

可以控制电脑的Claude3.5,离自己上班还有多远

AI搜索还能不能行了?

拥有钢铁侠的“钞能力”:想知道这个人的名字,看眼镜就行?

Adobe:推出新应用帮助用户拒绝内容用于训练AI模型

德国法院:使用摄影作品训练AI模型不构成侵权

帮你写简历?LinkedIn是如何使用你的个人信息的http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485495&idx=1&sn=d62c1ccaa230490565b41d4a183b6f78&chksm=9b4ade4cac3d575ad9554bab93813ffaef8381435712afca0b9b68451066fac2fd307d927b24&scene=21#wechat_redirect

加州通过两项法案,保护演员的肖像不被AI模仿

任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼

《人工智能生成合成内容标识办法(征求意见稿)》公开征求意见的通知http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485447&idx=1&sn=c60ec7d503c410ba89354196a4fc80f1&chksm=9b4ade7cac3d576adce5559b3e8cfeee0134a73aded5edc72b11b1b791ba31ae998564f18c8b&scene=21#wechat_redirect

中国人工智能监管及政策文件汇编

重磅:网安标委颁布《人工智能安全治理框架》1.0版

360儿童手表陷“辱华”风波,儿童智能设备如何做好合规?

利用AI换脸技术破解实名验证,太刑了

最新消息:理想已经报警。AI云诊产品有哪些合规要点?

赛博“照妖镜”:AI魑魅的标识与辨别

秘塔AI:完蛋!我们收到了知网28页的侵权告知函http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485274&idx=1&sn=034cd253b62141eee8dee891f3e7031d&chksm=9b4ad121ac3d5837f35fa0dcd633afa466b0748df362437b24079a62bcdf23ef93e188d89707&scene=21#wechat_redirect

检察院发文提示人工智能合规问题 | 企业如何防控刑事风险

写给法律人/程序员:与AI“开源协议”有关的5个核心问题

最新消息:理想已经报警。AI云诊产品有哪些合规要点?

赛博“照妖镜”:AI魑魅的标识与辨别

秘塔AI:完蛋!我们收到了知网28页的侵权告知函

不用考证的赛博心理咨询师,有哪些必须做的合规要点?

大模型厂商使用用户输入信息训练AI的合规策略

律师测评 | 用户创建AI虚拟人角色,平台有哪些责任?

寡姐要告OpenAI:律师评山寨名人声音的商业模式

律师测评 | ChatGPT-4o,让人机之恋走进现实

AI生成声音第一案,给AIGC创业项目的3点教训

律师评测 | 华为手机“AI一键脱衣”

数字经济

数据资产 | 数据资源入表,到底应该如何开展工作?

最新发布:《网络数据安全管理条例》1月1日起施行

写在3季度结束前:已有41家上市公司披露数据资源入表情况

最新发布:粤港澳大湾区(内地、澳门)个人信息跨境流动标准合同实施指引

人民法院报:虚拟货币司法处置须规范化http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247485363&idx=1&sn=a8cf92b97ca7c8b230c4fdf81d0b1cb7&chksm=9b4ad1c8ac3d58de19d812d002cfce9db1f70f7ff70f05d4755e0daabd0b67d50fa664f84dd7&scene=21#wechat_redirect

全国首案:《数据知识产权登记证》案的几点启发

喝咖啡前,要如何“走流程”?小程序监管已来

数据资产 | 如何在农业领域发挥数据要素乘数效应

数据资产 | 公交领域数据入表案例盘点与分析

数据圆桌|数字化智能化改造最新税收优惠政策解读

醒醒吧!虚拟币征税=交易合法?

限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性?

数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕

数据资产|对企业而言,数据资源入表有6大价值

数据合规 | 家长们最在意的“青少年模式”如何做好合规?

影响数字经济领域的指导案例发布,虚拟币交易的未来何去何从?

数据产权规定汇编|国家数据局将推出8项制度文件,涉及人工智能和数据产权

观点汇编 | 数据权益的保护路径

http://mp.weixin.qq.com/s?\_\_biz=MzAxMDc0ODY5Mg==&mid=2247484863&idx=1&sn=f65eebe533851357f7857d1e747a208a&chksm=9b4ad3c4ac3d5ad2d7a91a963ea9b724ff2d644eba3ef0635084246988aa090088c8e508b855&scene=21#wechat_redirect

新书资讯

诚邀参编|全新司法解释下侵权责任编实务问答新书

通知查收|《工程老板必备法律锦囊》出书共创群

重磅推荐:《网络犯罪办案实务指南》新书上市

---

《法律人ChatGPT应用指南》,可直接点击下图购买: