科思研究

创业者 | 具身智能产业的数据安全风险与应对

科思律师事务所 · 2025-08-05
文章插图

具身智能(Embodied Artificial Intelligence,EAI)是指有物理载体的智能体,在与物理世界的交互过程中,通过感知、控制和自主学习来积累知识和技能,形成智能并影响物理世界。

1950年图灵在其发表的论文《Computing Machinery and Intelligence》提出对具身智能的设想:机器能够像人类一样感知环境、进行推理决策并付诸行动,这代表了人工智能发展的终极形态。

根据高盛集团(Goldman Sachs)发布的最新人形机器人报告:Humanoid Robots III:The supply chain dynamism(人形机器人系列Ⅲ:核心供应链),预计到2035年,全球人形机器人市场可能达到380亿美元(基础情景)/2050亿美元(乐观情景)。

文章插图

高盛集团:Humanoid Robots III:The supply chain dynamism(人形机器人系列Ⅲ:核心供应链)

2025年我国首次在政府工作报告中将具身智能列为未来产业,巨大的市场潜力无疑是十分吸引人的,但风险与机遇并存,具身智能产业背后的数据安全风险也不容忽视,如果想跳入这片蓝海,还需要更多准备。

具身智能相关的

数据安全风险

01

本体、智能体、数据和学习进化框架是具身智能的四大核心要素。[1]其中,数据是智能体运作的基础,其质量和数量直接影响智能体的泛化能力,对具身智能的落地与发展尤为重要。

注:

[1] 慧博智能投研:《2025具身智能行业深度:技术路线、市场机遇、产业链及相关公司深度梳理》

向上滑动

01 数据安全风险

⚠️ 数据攻击风险

具身智能大模型的训练数据包括自然语言数据、模拟和仿真环境数据、真实采集的感知数据等。

数据投毒[2]是一种数据攻击方式。如攻击者在数据库中进行投毒,通过修改人工智能模型的训练数据,引入错误、偏差甚至恶意的样本,攻击者可以诱导人工智能模型作出错误判断,产生难以预估的负面影响。

另一种方式则是在数据标注和具身大模型微调过程中植入后门[3],给输入的数据贴上特定的触发器,当后门被触发时,可能造成一系列无法预知的危险情况。

注:

[2] 数据投毒:数据投毒是指攻击者通过篡改或恶意注入训练数据,使机器学习模型在训练过程中学习到错误的模式,从而在推理阶段产生错误结果。

[3] 后门攻击:指在模型训练过程中植入隐藏的触发条件,使模型在遇到特定输入时输出攻击者预设的结果。

向上滑动

⚠️ 数据决策失控风险

具身智能大模型高度依赖数据和算法,在决策过程中面临诸多风险。

一方面,现实世界的数据往往存在不完整、有偏差等先天缺陷,训练模型时可能会导致“垃圾进、垃圾出”,导致决策严重偏颇。如果训练数据本身存在系统性偏差,如种族、性别等问题方面的失衡,模型也可能习得偏见。

另一方面,模型内部决策机制高度复杂、难以解释,“算法黑箱”的问题日益凸显,当出现决策偏差或失控时,很难排查和控制风险,并且系统往往独立作出判断,人类无从干预,一旦形成错误决策,极易造成严重后果。

02 隐私安全风险

⚠️ 用户数据隐私

用户的使用数据对于训练深度学习模型以增强和优化机器人能力至关重要,然而企业可能在未经用户充分授权的情况下,大量收集包含用户生活习惯、兴趣爱好、健康状况在内的数据,从而构成对用户(敏感)个人信息的无意识获取,在《个人信息保护法》的“最小范围”原则上也难以满足。

⚠️ 数据泄露风险

具身智能设备具备强大的信息采集能力,可以通过多种传感器获取丰富的用户隐私数据,其具身性所赋予的更自由的行动能力,使其能在不同场景中灵活收集数据,同时具身智能的交互性使得用户更容易对其产生信任,进一步扩大了数据泄露的潜在范围。如若安全措施不到位,极易引发商业秘密泄露以及用户隐私泄露等多重风险。

文章插图

慧博智能投研:《2025具身智能行业深度:技术路线、市场机遇、产业链及相关公司深度梳理》

⚠️ 数据利用安全风险

在数据利用环节,要重点防范数据滥用的风险,例如将用户数据用于未经授权的商业推广、进行过度的数据分析,或者在未明确告知用户的情况下与第三方共享,这些行为都可能导致用户隐私被侵犯。

具身智能从业者在数据安全方面有哪些注意事项?

02 01

数据分类分级管理

具身智能设备在交互过程中往往会通过传感器采集多种数据,如环境、情感、语音、图像等,这些数据需要根据法律法规要求进行分类分级监管。

从分类角度,企业应当按照行业领域和业务属性进行区分,依据相应规则,对数据进行多维度的区分和整理,最终建立一个适当的数据分类体系。根据机器人的应用场景采取不同的管理策略:比如在家庭服务场景中,需重点关注用户的生活隐私;而在工业协作场景下,则要侧重保障生产数据的安全。

从分级角度,企业需将数据分为核心数据、重要数据和一般数据三个级别,对于涉及用户生物特征、空间环境布局的敏感数据,应当与设备运行日志等一般数据严格区分开来,实施分级管控。针对不同级别的数据,应制定差异化的安全策略:敏感数据需采用更高强度的加密存储和访问控制,一般数据则要注重高效管理与合规使用。

注:

《网络数据安全管理条例》第五条:国家根据网络数据在经济社会发展中的重要程度,以及一旦遭到篡改、破坏、泄露或者非法获取、非法利用,对国家安全、公共利益或者个人、组织合法权益造成的危害程度,对网络数据实行分类分级保护。

《数据安全技术 数据分类分级规则》(GB/T 43697-2024)

《人形机器人 分类分级应用指南》(T/SAIAS 017—2024)

向上滑动

02 个人信息处理规范

具身智能由于需要进行物理交互,容易获取用户的行为习惯、健康状态等隐私数据。对此,企业在设备首次激活时,需以醒目的方式列出数据收集清单(如产品使用说明书、用户隐私协议、手机app等),明确摄像头的拍摄范围、麦克风的录音场景等信息,并获取用户的明确同意。

同时,企业还应提供精细化的授权选项,比如允许用户仅在特定时间段开启传感采集功能;并且在设备工作时,通过呼吸灯等方式持续提醒用户,以此保障用户对自身数据的知情权与控制权。

注:

《中华人民共和国个人信息保护法》第四条:个人信息是以电子或者其他方式记录的与已识别或者可识别的自然人有关的各种信息,不包括匿名化处理后的信息。个人信息的处理包括个人信息的收集、存储、使用、加工、传输、提供、公开、删除等。

第十三条:符合下列情形之一的,个人信息处理者方可处理个人信息:(一)取得个人的同意。

第二十八条:敏感个人信息是一旦泄露或者非法使用,容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的个人信息,包括生物识别、宗教信仰、特定身份、医疗健康、金融账户、行踪轨迹等信息,以及不满十四周岁未成年人的个人信息。处理敏感个人信息应当取得个人的单独同意。

《数据安全技术 敏感个人信息处理安全要求》(GB/T 45574-2025)

《信息安全技术 个人信息安全规范》(GB/T 35273)

《人形机器人标准体系框架(V1.0 版)》

向上滑动

03 数据安全事件应急响应

具身智能的本体具有自主移动的特性,这使得其轨迹或移动过程中收集的数据一旦泄露,可能引发人身和财产安全风险。比如家庭机器人收集的数据若发生泄露,可能会威胁到用户的居住安全。

因此,企业需要构建 “感知 - 阻断 - 溯源” 的闭环应急机制:借助实时监测系统敏锐捕捉异常数据传输信号,一旦察觉风险,立即暂停机器人的自主行动权限,防止其在不安全状态下继续活动;与此同时,启动本地数据加密锁定,避免敏感数据进一步扩散;随后迅速开展溯源调查,明确泄露源头和影响范围,进而制定针对性的修复方案。

注:

《网络数据安全管理条例》第十一条:网络数据处理者应当建立健全网络数据安全事件应急预案,发生网络数据安全事件时,应当立即启动预案,采取措施防止危害扩大,消除安全隐患,并按照规定向有关主管部门报告。

向上滑动

04 数据共享与委托处理管控

具身智能企业的训练数据往往包含交互场景中的敏感信息,在与算法服务商共享时,合同里除了要限定数据仅用于特定场景的模型优化等用途,还应当明确划定数据使用的边界,以及违规时的追责条款。

此外,还可以通过采用在数据中嵌入特定标识[4]等数据安全技术,实现对数据流通环节的溯源和追踪,当出现数据泄露、数据滥用时可以第一时间溯源追责。

注:

[4] 数据水印:指从原始环境向目标环境进行敏感数据交换时,通过一定的方法向数据中植入水印标记,从而使数据具有可识别分发者、分发对象、分发时间、分发目的等因素,同时保留目标环境业务所需的数据特性或内容的数据处理过程。

向上滑动

若是委托他人加工与机器人控制代码相关的数据,企业则需要对受托方的数据和网络安全情况、人员管理情况等展开全方位评估,定期核查数据处理的全过程,并完整留存操作日志。

注:

《网络数据安全管理条例》第十二条:网络数据处理者向其他网络数据处理者提供、委托处理个人信息和重要数据的,应当通过合同等与网络数据接收方约定处理目的、方式、范围以及安全保护义务等,并对网络数据接收方履行义务的情况进行监督。向其他网络数据处理者提供、委托处理个人信息和重要数据的处理情况记录,应当至少保存3年。

向上滑动

05 加强技术防护措施

基于具身智能的交互特性,具身智能设备往往需要持续动态采集环境与交互数据,这使得传感器的实时数据流在高频传输过程中容易被截获。对此,企业应当采用适当的加密措施对数据流进行实时加密,同时结合智能设备本地存储模块中的硬件加密芯片,构建起传输与存储双重加密的安全屏障。

此外,由于不同场景下的操作权限存在差异,还需按管理员、普通用户等角色搭建多级账号体系。通过定期自动审查权限使用记录,及时发现越权操作,从而从技术层面筑牢数据安全的防线。

注:

《信息安全技术 网络数据处理安全要求》(GB/T 41479—2022):规定数据加密应采用合适加密算法、密钥管理规范;访问控制要明确身份认证、权限分配规则;数据备份需定期执行并测试恢复有效性等多方面技术标准。

向上滑动

目前,正有一系列具身智能相关的国家标准制定当中,未来可以多加关注。

✩ 20252043-Z-469 人工智能 具身智能智能化分级

✩ 20252044-Z-469 人工智能 具身智能大模型系统技术要求

✩ 20252045-Z-469 人工智能 具身智能数据生成平台技术要求

✩ 20252046-Z-469 人工智能 具身智能系统技术规范

✩ 20252047-Z-469 人工智能 具身智能数据质量规范

具身智能产业机遇与风险并存,数据安全是发展基石。企业需严格遵循相关法规标准,落实分类分级管理、个人信息授权规范等要求,构建技术防护与应急机制,管控数据共享风险。唯有筑牢数据安全防线,方能推动具身智能在安全轨道上实现可持续发展,释放产业潜力。

参考资料

[1] 刘双阳|具身智能的数据安全风险及刑法应对——以人形机器人的研发与应用为例:

https://mp.weixin.qq.com/s/n0i91jeewmcYk0vYyzngZg

[2] 具身智能开发与应用刑事法律风险前沿问题:

https://mp.weixin.qq.com/s/awl5NmoV7LuiJfkcQPKLXw

[3] 论文带读|具身智能体的隐私风险及法律应对:

https://mp.weixin.qq.com/s/NwwfpMAevnRnODQeQ19imw

[4] 人工智能时代数据安全风险及应对策略:

https://mp.weixin.qq.com/s/RJG66518L331f_2r-ha0sw

[5] Towards Robust and Secure Embodied AI: A Survey on Vulnerabilities and Attacks:

https://mp.weixin.qq.com/s/0Azt_bNcwwzq4-uL06toWQ

[6] 刘权|人工智能发展和安全并重的法治探究——以人形机器人为例:

https://mp.weixin.qq.com/s/gTPUmxj6TmGdibnRVLnlYA

[7] 【合规】人形机器人:隐私迷局与法律“防火墙”的构建:

https://mp.weixin.qq.com/s/T0C8z4jFBCrLLK5gTvhpSw

[8] 科技与法律:《人工智能时代数据安全风险及应对策略》王梅艺:

https://mp.weixin.qq.com/s/btIEvepc4GLpfCTwM-JRQQ

[9] 数据窃取攻击:

https://mp.weixin.qq.com/s/O4SAWvUi8Gy4NXWZN9Qt3Q

文章插图
文章插图
文章插图

目录

第一章 入门篇

法律人使用AI的12大核心技能

一、起步指南:快速使用DeepSeek的步骤

二、了解提示词:让AI听懂你的话

三、定身份:让AI“入戏”

四、讲背景:让AI真的懂你

五、提要求:让AI行动起来

六、结构输出法:让AI“按规矩办事”

七、样本示范法:给AI“参考答案”

八、任务分解法:复杂任务化整为零

九、提问迭代术:与AI的“深度对话”

十、模型对比法:AI“专家会诊”

十一、风险把控:筑牢风险防火墙

十二、价值锚定:树立正确的AI价值观

第二章 基础篇

法律人使用DeepSeek的21大应用场景

一、法律人使用DeepSeek独门心法

二、辅助撰写类案检索报告

三、辅助撰写案件汇报提纲

四、辅助撰写调研报告及检察(司法)建议

五、辅助分析侦查(调查)数据

六、辅助撰写侦查(调查)方案

七、辅助对犯罪嫌疑人画像

八、辅助制作侦查(调查)讯问笔录提纲

九、辅助撰写审查报告

十、辅助量刑测算

十一、辅助撰写起诉书

十二、辅助撰写庭审讯问、询问提纲

十三、辅助撰写公诉意见书

十四、辅助撰写不起诉决定书、不起诉理由说明书

十五、辅助撰写刑事抗诉书

十六、辅助撰写刑事会见提纲

十七、辅助撰写质证意见

十八、辅助撰写辩护发问提纲

十九、辅助撰写辩护词

二十、辅助撰写审理报告

二十一、辅助撰写裁判文书

二十二、辅助撰写民事调解书

第三章 进阶篇

法律垂类AI工具的20件法宝

一、法律检索:以秘塔AI搜索、微信AI搜索为例

二、合同审查:以案牍×法天使智能合同审查系统为例

三、合同管理:以飞书多维表格为例

四、整理视听证据:以通义听悟为例

五、模拟法庭实训:以北大法宝模拟法庭为例

六、法律文书写作:以AlphaGPT为例

七、法律翻译:以智谱清言、腾讯会议、沉浸式翻译、DeepL为例

八、阅读法律材料:以豆包浏览器插件为例

九、撰写公文:以DeepSeek、新华妙笔、WPS AI为例

十、知识管理:以Get笔记、ima、“律AI多”为例

十一、实现文本可视化:以Mermaid为例

十二、实现多端协作:以微信AI输入法为例

第四章 腾飞篇

法律人使用AI加持IP的10大战法

一、书课视频一体化打造法律人IP的基本方法

二、用AI起书名

三、用AI整理书稿目录或授课框架

四、用AI辅助写作

五、用AI快速制作PPT课件

六、用AI为视频号选题

七、用AI快速生成短视频文案

八、用AI快速剪辑短视频

九、用数字人提升视频号效率

十、用AI提升网络曝光率

第五章 高阶篇

法律人的两大AI终极武器:智能体与本地化部署

一、Manus的崛起:AI智能体颠覆传统法律工作

二、零代码实战:30分钟打造你的“免费法律咨询助手”

三、开庭管理革命:DeepSeek+飞书实现“一键无忧”

四、团队任务自动化:DeepSeek+飞书高效管理团队任务

五、本地化部署:数据安全的核心方案

六、极简三步走:手把手教你部署本地化模型

七、君子务本:AI浪潮中法律人的价值锚点

附录

一、AI产品简介

二、法律AI产品简介

三、法律人必备AI资料包

后记

-- 下滑查看更多 --

文章插图

● 兔子蹦迪,AI视频又双叒叕进化了

● OpenAI终于开源了?炒作还是泄露?

● 英伟达因H20漏洞后门问题被网信办约谈