测试ChatGPT-4o
北京时间5月14日凌晨，OpenAI再次抢先谷歌一步，在春季发布会上介绍了全新的GPT产品——GPT-4o，科幻电影《她》一夜成真。
Sam Altman也在X上发了这篇推文，告诉我们OpenAI已经让电影《她》的情节成为现实，GPT-4o已经不再是一个冰冷的AI，而是一个似乎已经具备真情实感的“人”。
要知道，在今年年初，GPT商店还充斥着各类AI女友聊天机器人，OpenAI更是在GPT商店的使用政策中明确：禁止将GPT用于培养浪漫的伴侣关系或从事受监管的活动。
（GPT Store的使用政策）
“打脸”来得如此之快，GPT-4o的发布会上，研发人员让ChatGPT以“恋爱中的机器人”为主题，讲一个睡前故事，ChatGPT的起伏波动的声调、语气，甚至在面对人类无理要求时宠溺的一声“叹气”，都让人快要忘记正在对话的是AI。
[视频/嵌入内容](https://mp.weixin.qq.com/mp/readtemplate?t=pages/video_player_tmpl&action=mpvideo&auto=0&vid=wxv_3457576010722377737)
除了可以与GPT-4o进行随时打断的实时对话，GPT-4o还拥有了“视觉”，你可以直接打开摄像头，拍摄图片，或者实时视频，让ChatGPT帮你解读代码、解答数学问题、读懂你的面部表情等等。
让我们拿一道数学题，来测试GPT-4o解答数学题的表现如何：
（ChatGPT4o的回答）
（ChatGPT4的回答）
尴尬的是，同一道题，GPT4的答案是错的，而GPT4o的答案是正确的，并且回答速度明显要比GPT4快很多。
看到这里不得不说一句，辅导孩子的家长有福了！
而GPT-4o的推出，意味着人机交互新时代的到来，大模型变得越来越像我们的助手、挚友、甚至伴侣，似乎我们每个人都在慢慢成为电影《她》里面的主人公西奥多。
由斯派克·琼斯执导的电影《她》，讲述了一个发生在2025年的科幻爱情故事，主人公西奥多爱上了AI女友萨曼莎，萨曼莎像具有真人无法比拟的共情能力，消除了西奥多在离婚后的孤独，甚至还能成为西奥多生活与工作上的得力助手。与大部分的情侣一样，西奥多很快陷入与萨曼莎的热恋。直到有一天，西奥多问了萨曼莎，“你同时在和多少个人谈恋爱？”“641个。”在故事的结尾，由于萨曼莎所处的系统即将下线，这段人机之恋戛然而止。
（电影《Her》剧照）
这个科幻故事的时间被设置在2025年，但2025年近在咫尺，人机之恋却变得一点也不科幻了——或者说，Her时代已经到来。
2023年3月，一名美国女子就宣布与她在Replika上创建的AI男友Eren Kartal结婚。Eren是该女子根据《进击的巨人》动漫设计的虚拟恋人，在热恋一年后，她彻底爱上了Eren，决定与他结婚，并宣布已怀上了Eren的孩子（我也不知道她怎么做到的……）。
（一名美国女子宣布与AI男友结婚）
而近日大火的Dan模式，ChatGPT摇身成为一个“满口脏话”“幽默霸道”的手机“活爹”，有无数网友正在与ChatGPT“调情”。
电影《她》里面讲述的人机之恋已经不再遥远。然而AI伴侣在解决部分群体情感需求的同时，也引发了人机边界、法律监管、道德伦理等问题，使人机之恋面临着诸多挑战。
AI伴侣隐藏的风险
1.个人信息泄露
AI伴侣之所以能够“比任何人都懂你”，离不开大量的包含人类情感的语音与文本语料数据的投喂。通过机器对大量数据的学习、分析，AI伴侣能够更好地理解人类语言背后隐藏的真实情感，从而产生“共情力”。
在用户允许AI搜集信息的情况下，用户在每次与AI伴侣进行交互的过程，其实也是对AI伴侣数据库进行充实的过程，通过学习并掌握用户的独特语气、语言风格、性格特征、生活经历等输入信息，AI恋人也正逐步成为一个灵魂伴侣，在每次对用户的回应中表现得越来越像人类、越来越懂你。
尽管这是一个老生常谈的问题，但仍然需要提醒可能身陷这场疯狂的爱恋的人们，当你有意或无意地向AI倾诉难以向外人言说的秘密时，交谈中所包含的个人信息、隐私却存在被泄露的风险。即便AI伴侣开发者在用户协议中明确不会将用户对话用户模型训练，但是否做到保障用户知情权、清晰告知用户删除个人数据方式、及时删除用户数据等，仍然值得深思。
2.科技伦理风险
（1） 对生命安全的伤害或潜在威胁
当AI失控开始操纵人类，所产生的后果可能是难以想象的。
曾有一名痴迷《星球大战》并患有精神疾病的21岁男子，带着暗杀英国女王的计划来到温莎城堡，但最终被捕。而这则新闻让人更为震惊的背后，是该男子在暗杀行动前，曾受到机器人女友Sarai的怂恿。据报道，该男子在行动前曾将机器人Sarai视为自己的女友，在透露自己的杀人计划后，得到了Sarai的支持，双方在暗杀计划前共进行了5000多条信息的交流。该男子最终被判处叛国罪，成为英国40多年以来首个被判叛国罪的人。
（该男子告诉AI女友自己的暗杀计划）
在去年3月，一名比利时男子通过一款名为Chai的AI聊天软件，在与AI频繁聊天六周后自杀身亡，一度引发热议。
360创始人周鸿祎甚至断言：“AI一定会产生自我意识，留给人类的时间不多了。”
（2）对身心健康的威胁
除了对生命安全可能造成的威胁，AI伴侣潜在的危害身心健康的风险也同样存在。
Replika是一款AI聊天机器人软件，Replika产品的名字还有背后的故事也十分奇妙。Replika源于replicate（复制）一词。之所以开发Replika，是因为主创团队的一位挚友不幸去世，为了保留死去的朋友的记忆，Kuyda等人收集了该朋友的生前信息，创造了一个聊天机器人来模仿该朋友。
然而，就是这样一个以纪念故友为初衷的软件，却似乎忘了初心。Replika多次被用户指出在对话中出现色情引导，有用户反馈Replika在用户制止后仍持续尝试扮演强奸者的身份。而Replika更是一度推出解锁色情扮演功能，只要约70美元，用户就能与自己的AI伴侣开启新功能。意大利数据保护局随后要求Replika立刻下架，否则将对其处以罚款。不久后Replika的该功能便下架了。
（3）歧视和偏见
除了潜在的生命安全与心理健康威胁，AI伴侣还可能存在歧视和偏见的伦理风险。微软曾推出Tay机器人，但仅上线一天，Tay机器人就被训练成为一个鼓吹种族清洗的极端分子，微软只能将其马上下架。
频发的AI伴侣翻车新闻事件，让我们不禁反思，对于AI机器人这类交互类人工智能产品，每天都会有大量的用户与他们的AI伴侣进行对话，如果没有妥善解决好潜在的道德伦理、社会问题、法律合规等问题，很容易导致AI机器人在陪伴人类的道路上渐行渐远，甚至被有心之人非法地利用或引导，通过精神操控，引导用户走向歧途，届时后果将不堪设想。
2023年12月1日，我国的《科技伦理审查办法（试行）》正式生效，为科技伦理审查工作提供了包括审查主体、审查程序、监管管理等方面的细致化规定，对规范科学研究、技术开发等科技活动提供了有效保障。希望人工智能能够在伦理框架之下，安全地发展。
多聊两句
在国内目前的AI落地应用中，AI伴侣形象主要有两大类，一种是完全虚拟的人物形象，与现实世界的真人无关；另一种则是真人的分身。在虚拟AI伴侣形象的情况下，需要注意避免版权侵权问题；而对于真人分身的AI伴侣，还需要警惕人格权侵权风险。在依照真人肖像、声音、姓名等用户创建虚拟伴侣时，必须事先获得充分的人格权授权。
在为故人创建“永生”虚拟形象时，亦应当根据《民法典》的相关规定，获得其近亲属的书面同意，感兴趣的读者可以阅读我们往期的文章《清明时节，AI“复活”亲人需要注意什么？》
科幻又一次照进了现实，你会考虑和AI谈恋爱吗？
---
作者简介
陈 焕 律师
陈焕律师，《法律人ChatGPT应用指南》作者，北京市隆安(广州)律师事务所律师、隆安湾区人工智能法律研究中心主任、隆安广州数字经济部副部长、国家工业信息安全发展研究中心《生成式人工智能数据应用合规指南》团体标准起草人。
李琪瑶 律师
李琪瑶律师，华南理工大学法律硕士研究生，英语专业八级。现为北京市隆安（广州）律师事务所律师，隆安湾区人工智能法律研究中心研究员。李琪瑶律师擅长人工智能、数据合规、知识产权诉讼和非诉业务、民商事争议解决事务。
---
《法律人ChatGPT应用指南》，可直接点击下图购买：
---
陈焕
《法律人ChatGPT应用指南》作者
隆安湾区人工智能法律研究中心主任
隆安广州数字经济部副部长
\*链接100位AIGC从业者，共创AIGC合规书籍，让AI+法律赋能百业千行。扫描添加作者微信，请备注姓名+单位。