AI奶奶，诈骗分子的噩梦
经常诈骗的朋友应该都知道
，诈骗电话的接通时间越长，代表“成功”诈骗的概率越高。但是诈骗分子可能也没想到自己有一天的对手会是一个AI奶奶。
近日英国最大的移动网络运营商O2打造了一位AI奶奶“Daisy”，Daisy主要被用来消耗诈骗分子的时间，让他们没有时间去寻找真实的人类诈骗对象。
[视频/嵌入内容](https://mp.weixin.qq.com/mp/readtemplate?t=pages/video_player_tmpl&action=mpvideo&auto=0&vid=wxv_3725635759911583748)
（视频来源于公众号APPSO）
从视频可以看出，Daisy的人设是一位慈祥的老奶奶，会跟你唠家常，分享自己的趣事儿。而当Daisy被要求提供银行卡帐号或密码信息时，Daisy会编造随机的数字，并提供给诈骗分子，主打一个一本正经地胡说八道。
在视频的结尾，O2“杀人诛心”地说，想要毁了骗子的一天吗？将欺诈电话发送给7726。（注意，7726是英国电话，请不要在国内尝试）
当公众将可疑的诈骗电话和短信转发到7726后，O2将对涉嫌诈骗的手机号码进行调查，停用诈骗者号码，并将骗子的诈骗话术用于改进反诈服务。
AI奶奶Daisy是怎么实现的？
Daisy的打造结合了各种AI模型。首先模型会将来电者的声音转为文本，然后用大语言模型对应地生成回复文本，再通过自定义的AI文本转语音模型生成语音回复。各个模型协同工作，使Daisy能够与诈骗分子实现真人沟通般的零延迟对话。
由于对话效果非常逼真，Daisy成功地让许多诈骗分子陷入这场“局中局”。据统计，Daisy与大部分诈骗分子的一次通话时间可达40分钟。
运营商O2之所以推出Daisy，主要在于回应公众对于诈骗的担忧，同时呼吁公众对诈骗信息永远保持警惕。
根据O2的研究，研究显示超过约67%的的英国人担心成为欺诈的目标，约22%人每周都在经历诈骗。
小爱同学，把诈骗电话都聊跑了
在Daisy之前，市面上也有不少用于反诈的智能聊天机器人。
小米在约两年前就已推出“全链路电诈防护”功能，据宣传，小米向用户提供电诈预警、官方表示、转账防护等多重守护，帮助用户远离电信诈骗。
小米自带的小爱同学的自动接听电话和防骚扰功能，也多次让诈骗分子破防。
跟AI奶奶Daisy类似，小爱同学似乎对所有的电话都很有耐心，有问必答，聊到推销者、诈骗分子都无话可说。
来看看小爱同学是懂怎么聊跑诈骗电话的：
（图片来源于“小米服务”公众号）
AI反诈，我们还应该注意什么？
用生成式人工智能来实现反诈，是大模型应用场景极具价值的创新尝试。
但是我们也不能过于乐观。
AI技术是一次技术平权，这项中立的技术，对于“好人”和“坏人”来说，都是“公平”的。“好人”阵营会用AI来反诈；“坏人”必然会用AI来使诈。这将是一场永无休止的盾与矛之争。
理想的状态，当然是好AI和坏AI互相“问好”，然后在无人知悉的角落里，浪费彼此的电费……这好像也没什么其他坏处。
怕就怕“道高一尺，魔高一丈”，让不法分子钻了技术上的空子，受伤的还是我们的爷爷奶奶。
正因如此，守住爷爷奶奶钱包的最后一道防线，仍然是他们的反诈意识，而且必须是“与时俱进的反诈意识”。
过去，我们总是跟他们说，“眼见为实，耳听为虚”。
但在深度伪造技术的狂飙式发展的当下，眼见也不再保证是实的了。
所以，我们结合当前AI发展的实际情况，尝试归纳以下这些“与时俱进的反诈意识”，希望它们还能在未来足够长的时间里继续发挥积极作用。它们是：
1.不要贪心，不轻易相信天上掉馅饼的好事；
2.关心则乱，对方说得再急也要先了解事情；
3.交叉核验，不要相信单一信息渠道的信息；
4.关爱老人，你的关爱才是他们最好的护盾。
如果你也有关心的人，请把这些“与时俱进的反诈意识”转发给他。
如果你还归纳了更好的与时俱进的反诈意识，也欢迎留在评论，让我们一起帮助更多的爷爷奶奶。
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人、广州市涉外律师领军人才。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
往期文章推荐：
人工智能
三问“中国AI生成物可版权性第二案”
驳回起诉：OpenAI暂时击败了新闻媒体关于AI训练的版权诉讼｜附原文和翻译
AI开始关心你的便便，挂上摄像头的马桶，要不要来一个？
爱，死亡，与AI：一个因AI而死的少年
可以控制电脑的Claude3.5，离自己上班还有多远
AI搜索还能不能行了？
拥有钢铁侠的“钞能力”：想知道这个人的名字，看眼镜就行？
Adobe：推出新应用帮助用户拒绝内容用于训练AI模型
德国法院：使用摄影作品训练AI模型不构成侵权
帮你写简历？LinkedIn是如何使用你的个人信息的
加州通过两项法案，保护演员的肖像不被AI模仿
任天堂与宝可梦公司对《幻兽帕鲁》提起专利诉讼
《人工智能生成合成内容标识办法（征求意见稿）》公开征求意见的通知
中国人工智能监管及政策文件汇编
重磅：网安标委颁布《人工智能安全治理框架》1.0版
360儿童手表陷“辱华”风波，儿童智能设备如何做好合规？
利用AI换脸技术破解实名验证，太刑了
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
检察院发文提示人工智能合规问题 | 企业如何防控刑事风险
写给法律人/程序员：与AI“开源协议”有关的5个核心问题
最新消息：理想已经报警。AI云诊产品有哪些合规要点？
赛博“照妖镜”：AI魑魅的标识与辨别
秘塔AI：完蛋！我们收到了知网28页的侵权告知函
不用考证的赛博心理咨询师，有哪些必须做的合规要点？
大模型厂商使用用户输入信息训练AI的合规策略
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
政府补贴｜数据资源入表/人工智能算法备案奖励政策梳理（附原文｜广州）
双十一，手可以剁，但千万不可以抖｜开屏摇一摇
数据资产 | 数据资源入表，到底应该如何开展工作？
最新发布：《网络数据安全管理条例》1月1日起施行
写在3季度结束前：已有41家上市公司披露数据资源入表情况
最新发布：粤港澳大湾区（内地、澳门）个人信息跨境流动标准合同实施指引
人民法院报：虚拟货币司法处置须规范化
全国首案：《数据知识产权登记证》案的几点启发
喝咖啡前，要如何“走流程”？小程序监管已来
数据资产 | 如何在农业领域发挥数据要素乘数效应
数据资产 | 公交领域数据入表案例盘点与分析
数据圆桌｜数字化智能化改造最新税收优惠政策解读
醒醒吧！虚拟币征税=交易合法？
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据合规 | 家长们最在意的“青少年模式”如何做好合规？
影响数字经济领域的指导案例发布，虚拟币交易的未来何去何从？
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
观点汇编 | 数据权益的保护路径
新书资讯
诚邀参编｜全新司法解释下侵权责任编实务问答新书
通知查收｜《工程老板必备法律锦囊》出书共创群
重磅推荐：《网络犯罪办案实务指南》新书上市
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
