（图片由AI生成）
AI时代的情绪价值
近日，国内首个AI心理咨询师平台“心跃智能”获得百万元种子轮融资，投资方为中山大学、广州大学心理学教授等个人投资者。心跃智能作为主要面向心理健康专业人员的人工智能辅助软件，涵盖接待来访的心理评估、会谈后的对话总结、咨询师个人专业成长及客户管理等功能。[1]
（心跃智能“小青咨道”微信小程序）
除了面向心理咨询师的AI产品，不少AI企业入局心理咨询领域，市面上已经有不少面向C端用户的优秀AI心理产品，例如以治愈绘本风出圈的“林间疗愈室”等。
（“林间疗愈室”产品介绍页面）
随着当代社会对心理健康的重视程度不断提升，AI入局心理咨询行业，可以说在蓝海市场找到了一个很好的切入口。
在传统的线下心理咨询场景中，我们往往会关注心理咨询师的资质和经验等问题。但当真人心理咨询师变为“AI疗愈师”时，则面临用户个人信息保护、情绪识别算法合规和人工智能合规等更为复杂的问题。
本文我们将结合国内市场上的AI心理咨询产品及AI心理咨询领域的发展现状，聊聊“AI+心理咨询”的合规问题。
心理咨询+AI，给企业带来哪些合规义务
1.不同风险/业务场景下的安全要求
《生成式人工智能服务安全基本要求》（TC260-003）对心理咨询等重要场合，对人工智能企业在保护措施和模型生成内容方面提出了一定的安全要求，可以给企业提供一定的参考：
（1）采取与AI心理咨询风险程度及场景相适应的保护措施
（《生成式人工智能服务安全基本要求》第7条）
根据心理健康消费级产品MePlus AI向36氪介绍：“在心理健康服务领域，数据监管的严格程度远高于其他行业和场景，在心理健康服务领域，数据监管的严格程度远高于其他行业和场景，从合规角度出发，用户在MePlus AI的使用路径主要是以单次陪护需求为主，用户可以选择随便聊聊、解决问题或是需要陪护等场景模式。其中，解决问题背后又分为不同的子模块，对应不同的程序路径。”[2]
根据不同用户使用AI心理咨询的频次、时长、具体需求等业务场景，采取不同场景相应的安全保护措施，对企业来说具有一定的借鉴意义。
（2）保障生成内容的准确度和可靠度
（《生成式人工智能服务安全基本要求》附录A）
在AI未介入心理咨询服务行业之前，心理咨询的有效性和可靠性很大程度上依赖于心理咨询师的资质和专业水准。但当心理咨询的诊断、评估和疏导意见是由大模型生成时，则伴随着生成内容的不确定性。
这意味着AI心理咨询服务提供者需要履行更高的合规义务，在向用户提供由大模型生成的心理咨询回复时，应当避免出现生成内容严重偏离心理健康的常识和认知，同时避免生成具有误导性的内容，对用户造成心理健康的负面影响。AI心理咨询服务提供者需要通过高质量的专业心理咨询语料库对模型进行训练和学习，以提升AI心理咨询产品整体的安全性。
2.科技伦理审查
由于AI心理咨询的模型开发者和服务提供者，通常涉及对大量用户个人信息数据的处理。依据《科技伦理审查办法（试行）》第二条的规定，且该办法在附件中将“对人类主观行为、心理情绪和生命健康等具有较强影响的人机融合系统的研发”列为需要开展伦理审查复核的科技活动。笔者认为，涉及AI心理咨询的技术活动，理论上应当进行科技伦理审查。
如存在未依照规定进行科技伦理审查、以弄虚作假方式取得科技伦理审查批准或超出科技伦理审查批准范围开展科技活动等情形的，依照《科技伦理审查办法（试行）》第47条的规定，将依法受到行政处罚，视情况依法承担民事和刑事责任。
3.算法备案等
根据中央网信办主任庄荣文8月12日答记者问，“截至目前，我国完成备案并上线、能为公众提供服务的生成式人工智能服务大模型已达190多个，注册用户超过6亿。”[3]
经笔者查询网信办公开的七批已完成深度合成服务算法备案的清单，在目前已经完成算法备案的大模型中，与AI心理咨询相关的有“心海灵犀AI心理咨询算法”“青木易立－心理咨询对话算法”“温柔乡AI心理咨询文本生成算法”等算法。
“心大陆AI大模型”也宣传自家的“心理健康垂直领域对话大模型”是国内首个通过国家网信办人工智能心理算法领域备案的技术成果。[4]
（图片来自“数业智能心大陆”公众号）
除了算法备案，还有老生常谈的AI生成内容标识问题，这些问题都需要投身AI心理咨询领域的企业们多加关注。
AI心理咨询，个人信息保护不容忽视
1.用户输入的信息是否构成敏感个人信息
在AI心理咨询的场景之下，用户在交互过程中通常会输入反映用户个人心理健康情况的信息。在多模态AI大模型下，有些AI心理咨询产品甚至支持通过用户面部表情、语音语调来识别用户的情绪状态。
《个人信息保护法》第二十八条将敏感个人信息定义为“一旦泄露或者非法使用，容易导致自然人的人格尊严受到侵害或者人身、财产安全受到危害的个人信息”，包括生物识别、医疗健康和不满十四周岁未成年人个人信息等信息。
结合《信息安全技术 健康医疗数据安全指南》（GB/T 39725-2020）对“个人健康医疗数据”的定义，个人健康医疗数据为既包括反映自然人生理健康或心理健康的相应电子数据。
因此，用户在使用AI心理咨询产品中输入的内容，可以认为部分输入内容构成用户的敏感个人信息，意味着产品开发者需要履行更高的合规义务。
2.单独同意+明示授权
企业除了需遵循个人信息处理的一般规定，根据《个人信息保护法》以及《个人信息安全规范》（GB/T 35273—2020）等相关规定和标准，处理用户的个人敏感信息还应当做到：
收集前征得用户的明示同意，并应确保用户的明示同意是其在完全知情的基础上自主给出的、具体的、清晰明确的意愿表示。
处理敏感个人信息应当取得用户的单独同意，除向用户告知个人信息处理者的名称或者姓名和联系方式之外，还应当向用户告知处理敏感个人信息的必要性以及对用户权益的影响。
（某心理咨询APP用户协议及隐私政策的页面）
3.个人信息保护影响评估（PIA）
根据《个人信息保护法》第55和56条的规定，企业如涉及处理用户输入的个人心理健康情况等敏感个人信息的，则企业应当在事前进行个人信息保护影响评估。评估内容应当包括：
（1）个人信息的处理目的、处理方式等是否合法、正当、必要；
（2）对个人权益的影响及安全风险；
（3）所采取的保护措施是否合法、有效并与风险程度相适应。
同时个人信息保护影响评估报告和处理情况记录应当至少保存三年。
关于敏感个人信息的处理问题，不仅涉及各项法律条文的规定，更涉及如何在产品中实现“单独同意”“充分告知”等落地问题，需要企业提高风险意识，在兼顾用户体验的同时关注和产品合规。
有鲤律师建议
结合以上我们对AI心理咨询领域的思考和提出的合规要点，有鲤律师对AI心理咨询企业提出以下几点建议：
在人工智能合规方面：
1.根据人工智能技术在心理咨询产品中的不同场景和不同风险程度，采取相应的安全保障措施；
2.关注大模型生成的心理咨询回复的内容安全性问题；
3.依据现有规定，及时完成深度合成服务算法备案，履行人工智能生成内容的标识等合规义务。
在个人信息合规方面：
1.如企业涉及处理用户的敏感个人信息的，依照《个人信息保护法》等规定和标准，优化产品设计以达到“单独同意”等合规要求；
2.如涉及处理用户的敏感个人信息的，应当在事前进行个人信息保护影响评估等。
当心理咨询行业引入AI技术时，企业需要未雨绸缪，重视新技术对用户身心健康可能带来的影响，提升认知并落实合规义务。唯有保障AI心理咨询服务的安全性和可靠性，才能让AI时代的情绪价值治愈更多人类。
---
[1]36氪：《面向心理咨询师的AI助手，「心跃智能」获百万元种子轮融资｜早起看早期》，https://mp.weixin.qq.com/s/6IdtmiNSzVga-V15Dha0Yw
[2]吴思瑾 王与桐：《早期项目 | 与「孤独和焦虑」同行，「MePlus AI」想成为人人都用得起的心理健康消费品》，https://mp.weixin.qq.com/s/eKyFa8_JgxpedG3zE2CHCA
[3]网信中国：《深化网信领域改革 以网信事业高质量发展助力中国式现代化——访中央网信办主任庄荣文》，https://mp.weixin.qq.com/s/S7zExxaf3jfWIbKkhVI5dw
[4]数业智能心大陆：《心大陆AI大模型再加速，获批国内首个「人工智能心理算法」国家备案！》，https://mp.weixin.qq.com/s/ChdMB0-YWEeIby7NpFoLCQ
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、广东财经大学法学院人工智能法研究中心兼职研究员、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》标准起草人。
李琪瑶 律师
李琪瑶律师，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
往期文章推荐
人工智能
律师测评 | 用户创建AI虚拟人角色，平台有哪些责任？
寡姐要告OpenAI：律师评山寨名人声音的商业模式
律师测评 | ChatGPT-4o，让人机之恋走进现实
AI生成声音第一案，给AIGC创业项目的3点教训
律师评测 | 华为手机“AI一键脱衣”
数字经济
数据资产 | 公交领域数据入表案例盘点与分析
限期实缴制下出资新方式探索——数据“入表+入股”是否具有可行性？
数据资产新篇章丨隆安广州“数据资源入表实战沙龙”在南沙圆满落幕
数据资产｜对企业而言，数据资源入表有6大价值
数据产权规定汇编｜国家数据局将推出8项制度文件，涉及人工智能和数据产权
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
