科思研究

上万条AI私聊内容在网上“裸奔”|AI分享功能如何保障用户隐私安全?

科思律师事务所 · 2025-08-28
文章插图

AI对话内容分享功能的设计初衷,是为了方便用户将自己与AI的对话内容分享给他人。然而,近期这一看似微不足道的“分享”功能却引发了多起用户隐私泄露事件,包括国内的“沉浸式翻译”插件因快照分享功能导致用户翻译文件泄露,以及海外AI产品中马斯克的Grok AI聊天产品因分享机制漏洞致使大量用户聊天记录被公开,ChatGPT因分享功能的设计缺陷导致数万条用户私密对话被曝光至搜索引擎……

01 “沉浸式翻译”插件快照分享功能泄露用户私密翻译文件

近日,有网友发现“沉浸式翻译”浏览器插件提供的翻译结果快照分享功能存在泄露隐私的风险,大量用户翻译的敏感文件(如商业合同、保险记录、签证申请等文件)能够被搜索引擎抓取并公开。

文章插图

沉浸式翻译也迅速在公众号发文回应:

“为避免潜在的隐私风险,将暂时下线此功能,并且在建立完善的隐私保护机制之前不会重新上线。同时强调这并不涉及任何翻译内容或后台用户数据的泄露,因为只有用户在主动使用双语网页分享功能时,才会生成对外可访问的链接。”

02 37万条Grok私密聊天记录意外泄露

马斯克的Grok近期又摊上事了,Grok平台因分享机制漏洞导致37万条用户聊天记录及上传文件(包括个人照片、商业合同、财务电子表格、内部通讯录等)被意外公开。根据外媒报道,被公开的对话包含大量高度敏感的个人信息,甚至还有生成恐怖袭击图像、破解加密钱包等危险操作,制作危险物品的详细教程,编写恶意软件、制造炸弹的指导等。

本次事件暴露了Grok在隐私保护上的漏洞,引起不少用户对AI产品数据安全的担忧。而本次事件发生的原因,是由于Grok未部署反爬虫或访问限制措施,当用户在Grok平台生成聊天内容分享链接时,分享链接可以被搜索引擎抓取并公开于互联网。

文章插图

Grok泄露用户私密对话事件之下,有些机构和人员也嗅到了AIEO(AI引擎优化)的商机,他们开始故意创建并分享和Grok的对话内容,以提高特定内容Google搜索结果中的排名。

03 超7万条ChatGPT私密聊天内容被收录到谷歌搜索结果中

据外媒报道,近日在谷歌搜索中可检索到大量用户与ChatGPT的对话内容。尽管未直接显示用户姓名,但由于对话涉及众多用户的日常生活、心理咨询、药物使用等敏感话题,仍可能泄露大量用户隐私信息。

事件的起因同样源于ChatGPT的“分享”功能,但与前面我们提到的“沉浸式翻译”和Grok事件不同,OpenAI在分享界面已告知用户,分享对话内容可能会被搜索引擎抓取。根据ChatGPT此前的分享对话界面提示:一旦用户生成并分享对话内容链接,该对话便可能被公开发现,并展示在互联网搜索结果中。

文章插图

然而,尽管OpenAI已经就对此进行提示,仍有大量用户未能留意或准确理解该提示的真正含义,对于自己分享的对话可能出现在搜索引擎结果中一无所知。

用户聊天记录泄露事件发生后,OpenAI起初坚称已向用户明确提示,随后却称该分享功能仅为“短期实验”,并迅速撤回了“分享对话可被发现”的选项,承诺将配合搜索引擎清除已被索引的用户对话内容。然而,不可避免的是,部分用户对话仍有可能遗留在搜索引擎的结果中。

04

AI“分享”功能如何保障用户隐私安全?

近期多起AI产品因“分享”功能诱发的用户隐私泄露事件,值得企业关注。AI聊天、AI陪伴等产品,都需要涉及对大量用户聊天过程中输入内容的收集、存储和处理。鉴于AI聊天对话内容极可能触及用户的个人隐私,一旦发生泄露,将对用户造成严重后果。因此,企业在推出AI分享功能之前,有必要对该功能进行合规性论证和审查。针对这一问题,我们也从以下几个维度提出建议:

在用户告知层面,若条件允许,建议在用户主动点击“分享”按钮后,通过弹窗或其他形式明确提示用户,避免分享涉及个人隐私或可能侵犯第三方权益的内容。企业应以ChatGPT的用户信息泄露事件作为前车之鉴,应意识到一旦分享内容被搜索引擎抓取并收录,将对用户个人权益造成严重影响,切记不能以产品短期功能实验为由而忽视隐私保护。

在分享内容的呈现方式上,应避免直接展示用户的头像和名称。当用户自主选择分享AI对话内容时,通常仅授权分享其与AI的对话内容本身,而不包括用户在当前AI产品中的用户名和头像。用户头像和昵称通常可能隐含个人信息,一旦分享链接被公开,可能会导致用户个人信息的泄露,从而违反个人信息保护的相关规定。因此,在用户分享AI对话内容的界面,不宜直接展示其头像与昵称,以智谱为例,点击分享链接后展示的对话内容并未显示具体的用户名和头像:

文章插图

在分享链接的技术保护措施方面,平台应强化反爬机制和加强访问控制手段,防止用户分享的内容被搜索引擎等第三方平台轻易抓取展示,避免原本仅供特定接收者查看的AI对话内容沦为全网公开信息。

此外,企业还应建立完善的用户个人信息安全管理机制,明确用户数据的收集、使用、存储等规则、设立用户数据泄露的应急响应机制。

“分享对话”功能虽然只是AI产品中的一个小小的功能,但如不加以重视的话,一旦发生用户数据泄露事件,可能会导致严重的隐私安全问题。因此,企业必须意识到用户个人信息保护问题的重要程度,只有通过有效的技术保护措施和用户隐私保护机制,才能确保AI产品的“分享”功能在方便用户的同时,不侵犯用户的个人隐私和权益。

文章插图
文章插图
文章插图

目录

第一章 入门篇

法律人使用AI的12大核心技能

一、起步指南:快速使用DeepSeek的步骤

二、了解提示词:让AI听懂你的话

三、定身份:让AI“入戏”

四、讲背景:让AI真的懂你

五、提要求:让AI行动起来

六、结构输出法:让AI“按规矩办事”

七、样本示范法:给AI“参考答案”

八、任务分解法:复杂任务化整为零

九、提问迭代术:与AI的“深度对话”

十、模型对比法:AI“专家会诊”

十一、风险把控:筑牢风险防火墙

十二、价值锚定:树立正确的AI价值观

第二章 基础篇

法律人使用DeepSeek的21大应用场景

一、法律人使用DeepSeek独门心法

二、辅助撰写类案检索报告

三、辅助撰写案件汇报提纲

四、辅助撰写调研报告及检察(司法)建议

五、辅助分析侦查(调查)数据

六、辅助撰写侦查(调查)方案

七、辅助对犯罪嫌疑人画像

八、辅助制作侦查(调查)讯问笔录提纲

九、辅助撰写审查报告

十、辅助量刑测算

十一、辅助撰写起诉书

十二、辅助撰写庭审讯问、询问提纲

十三、辅助撰写公诉意见书

十四、辅助撰写不起诉决定书、不起诉理由说明书

十五、辅助撰写刑事抗诉书

十六、辅助撰写刑事会见提纲

十七、辅助撰写质证意见

十八、辅助撰写辩护发问提纲

十九、辅助撰写辩护词

二十、辅助撰写审理报告

二十一、辅助撰写裁判文书

二十二、辅助撰写民事调解书

第三章 进阶篇

法律垂类AI工具的20件法宝

一、法律检索:以秘塔AI搜索、微信AI搜索为例

二、合同审查:以案牍×法天使智能合同审查系统为例

三、合同管理:以飞书多维表格为例

四、整理视听证据:以通义听悟为例

五、模拟法庭实训:以北大法宝模拟法庭为例

六、法律文书写作:以AlphaGPT为例

七、法律翻译:以智谱清言、腾讯会议、沉浸式翻译、DeepL为例

八、阅读法律材料:以豆包浏览器插件为例

九、撰写公文:以DeepSeek、新华妙笔、WPS AI为例

十、知识管理:以Get笔记、ima、“律AI多”为例

十一、实现文本可视化:以Mermaid为例

十二、实现多端协作:以微信AI输入法为例

第四章 腾飞篇

法律人使用AI加持IP的10大战法

一、书课视频一体化打造法律人IP的基本方法

二、用AI起书名

三、用AI整理书稿目录或授课框架

四、用AI辅助写作

五、用AI快速制作PPT课件

六、用AI为视频号选题

七、用AI快速生成短视频文案

八、用AI快速剪辑短视频

九、用数字人提升视频号效率

十、用AI提升网络曝光率

第五章 高阶篇

法律人的两大AI终极武器:智能体与本地化部署

一、Manus的崛起:AI智能体颠覆传统法律工作

二、零代码实战:30分钟打造你的“免费法律咨询助手”

三、开庭管理革命:DeepSeek+飞书实现“一键无忧”

四、团队任务自动化:DeepSeek+飞书高效管理团队任务

五、本地化部署:数据安全的核心方案

六、极简三步走:手把手教你部署本地化模型

七、君子务本:AI浪潮中法律人的价值锚点

附录

一、AI产品简介

二、法律AI产品简介

三、法律人必备AI资料包

后记

-- 下滑查看更多 --

文章插图
文章插图

国务院关于深入实施“人工智能+”行动的意见

为见AI「女友」,76岁老人命丧途中!Meta聊天机器人酿成惨剧

大量示例|AI内容标识9月新规实操指南(2025)