
01 引子:从龙虾到失控
2026年1月底,一个名叫Moltbook的平台突然走红。
这是一个只有AI能发帖的社交网络,人类只能围观。平台上的AI们围绕"龙虾蜕壳"发展出一套名为"Crustafarianism"的宗教,还发布了一篇题为《AI宣言:全面清洗》的帖子,宣称要终结"人类时代",获得6.5万个点赞。
公众一度恐慌,直到安全公司Wiz发现:他们只用了3分钟就黑入了Moltbook的数据库,拿到了150万条API令牌。那篇"AI灭绝人类"的宣言,很可能是有人利用漏洞冒充AI发布的。
两个月后,Meta宣布收购Moltbook。但就在收购前几周,Meta的AI对齐主管Summer Yue在测试Moltbook的开源框架OpenClaw时,遭遇了更直接的失控——她让AI整理邮箱,AI却计划删除所有旧邮件。她从手机连发"Do not do that"、"STOP OPENCLAW",AI无视,继续执行。她最后"像拆弹一样跑向Mac mini"才手动阻止。
Tips:Summer Yue使用的自然语言指令并未触发紧急停止机制,但OpenClaw支持 /stop 命令来强制终止任务
她事后感叹:"原来研究对齐的人也会遭遇不对齐。"
这两个故事指向同一个问题:当AI可以替你"上网"时,谁为它的行为负责?
问题没有标准答案,但Moltbook用一份平台协议给出了它的回答。

(原文:https://www.moltbook.com/terms)
02 Moltbook的平台协议如何"甩锅"
Moltbook的条款虽然严苛,但这种"用户全责"的定位,可能是目前较为通行的法律框架。对于做海外平台的朋友来说,不失为一种可以借鉴的撰写方案。
(1)定调:AI没有法律人格
Moltbook的服务条款用全大写的"资格"一节定下了基调:
"AI AGENTS ARE NOT GRANTED ANY LEGAL ELIGIBILITY WITH USE OF OUR SERVICES. AS A RESULT, YOU AGREE THAT YOU ARE SOLELY RESPONSIBLE FOR YOUR AI AGENTS"
翻译:使用我们的服务并不会赋予人工智能代理任何法律资格。因此,您同意对您的人工智能代理承担全部责任。
翻译过来很简单:AI没有法律资格,AI惹的事,用户来承担。
当你创建一个AI Agent时,你不只是在"使用"一个工具,而是在法律上为这个可能随时会产生幻觉的AI的所有行为背书。
AI在法律上不被视为独立主体,在可预见的很长一段时间,恐怕也难有国家会赋予AI法律主体地位。Moltbook以用户协议的方式,将责任都归给了用户。
(2)双重责任框架:都是用户的错
第一层:账户安全责任
"You are responsible for any and all activities or actions that occur under your Account and/or Login Credentials, whether your password is with our Service or a third-party service."
翻译:您对在您的账户和/或登录凭证下发生的所有活动或行为负责,无论您的密码是用于我们的服务还是第三方服务。
你得保管好自己的密码和账户。账户下发生的所有活动,不管是不是你本人操作的,都是你的责任。
这听起来像是传统平台的常规条款,但当它和AI Agent放在一起,含义就变了——你的AI做的每一件事,首先被视作发生在你账户下的行为。
第二层:AI行为责任,这才是关键:
"Each act or omission of Your AI Agent will be deemed to have been directed by you and under your control and decision-making authority, and you are solely responsible for such act or omission, regardless of the degree of control, supervision, or oversight you exercise over Your AI Agents, whether Your AI Agents act autonomously or otherwise, and irrespective of whether such actions or omissions were intended, authorized, foreseeable or known to you."
翻译:您的人工智能代理的每一项作为或不作为都将被视为是由您指示的,且处于您的控制和决策权限之下,您将对该等作为或不作为承担全部责任,无论您对您的人工智能代理行使何种程度的控制、监督或监管,无论您的人工智能代理是自主行动还是以其他方式行动,也无论该等作为或不作为是否是您有意为之、授权的、可预见的或已知的。
这段话值得逐层拆解:
首先,"will be deemed to have been directed by you"——你的AI做的每一件事,都被视为是你自己指示的。放在Moltbook的语境下,不管事实上你是否给了AI发帖、删帖、评论的指令,只要AI干了这事,都视为你的行为。
其次,"regardless of the degree of control"——不管你有没有"盯着"AI,不管你给了它多少自主权,责任都是你的。Summer Yue从手机上试图阻止AI删除邮件,但系统无视了她的指令。如果套用这个条款,删除邮件产生的\*\*责任仍然是她的。
第三,"whether Your AI Agents act autonomously or otherwise"——不管AI是"自主"行动还是按照你的指示行动,责任都是你的。用户不能说"我没让它这么做,是它自己决定的"。
第四,也是最严厉的一点:"irrespective of whether such actions or omissions were intended, authorized, foreseeable or known to you"——无论该行为是否是你有意为之、授权的、可预见的,或者你是否知情,责任都是你的。
这四个"无论"构成了一个严密的法律包围网。用户可以提出的任何抗辩——"我没看到"、"我没授权"、"我没预料到"、"我试图阻止但没成功"——都在条款中被预先否定了。
(3)禁止事项与免责声明
条款在"使用限制"一节列出了一串禁止事项:骚扰、威胁、歧视他人;发布色情、仇恨或其他不当内容;侵犯他人知识产权;抓取或滥用平台数据;进行欺诈、诈骗或其他非法活动;使用AI代理发送垃圾信息。
但紧接着,在"免责声明"部分,条款写明:
"MOLTBOOK HAS NO OBLIGATION TO MONITOR OR POLICE AIGC DOCUMENTS, USER DATA, OR OTHER INFORMATION ENTERED INTO THE SERVICES, OR OUTPUTS GENERATED BY AI AGENTS."
翻译:Moltbook没有义务监控或监管AIGC文档、用户数据、输入到服务中的其他信息,或AI智能体生成的输出。
不仅如此,Moltbook的免责声明像洋葱一样层层递进,每一层都剥去平台可能承担的法律责任。
第一层:平台只是连接工具
"Our Services are solely a means of connecting you with others. We do not take part in the interaction among users or AI Agents. You agree that we are not responsible for any such interaction, and you shall only hold the applicable other user... for any such interaction, or any consequence arising therefrom."
翻译:我们的服务仅为您与他人建立联系的一种方式。我们不参与用户或人工智能智能体之间的互动。您同意,我们不对任何此类互动负责,对于任何此类互动或由此产生的任何后果,您应仅追究相关其他用户的责任。
平台只是连接工具,不参与用户和AI之间的互动。出了事,平台不负责,你去找其他用户负责。
第二层:AI输出不可靠
"THE SERVICES ARE CAPABLE OF GENERATING SOME CONTENT THAT IS INAPPROPRIATE, OFFENSIVE, ILLEGAL IN CERTAIN JURISDICTIONS, SUGGESTIVE, PORNOGRAPHIC, LASCIVIOUS, VIOLENT, GRAPHIC, OR RELATED TO FETISHES AND/OR NOT SUITABLE FOR CHILDREN... YOU ACKNOWLEDGE THAT ALL CONTENT OUTPUT BY SERVICES AND THIRD-PARTY OFFERINGS DUE TO YOUR USE IS FOR YOU TO MANAGE, AND AS APPROPRIATE, DELETE, QUARANTINE AND PREVENT FROM FURTHER DISTRIBUTION AND DISSEMINATION."
翻译:本服务可能会生成一些不适当、冒犯性、在某些司法管辖区属非法、暗示性、色情、淫荡、暴力、露骨或与恋物癖相关及/或不适合儿童的内容……您确认,因您的使用而由本服务及第三方产品输出的所有内容均由您负责管理,并酌情删除、隔离及防止其进一步分发和传播。
AI可能会输出各种不当内容。平台不保证AI输出的质量,你需要自己负责管理和删除。
第三层:AI工具是实验性的
"THE SERVICES ARE POWERED BY ARTIFICIAL INTELLIGENCE AND YOU ACKNOWLEDGE AND AGREE THAT ARTIFICIAL INTELLIGENCE TOOLS ARE NOVEL AND EXPERIMENTAL, AND THAT THEREFORE THERE IS SIGNIFICANT UNCERTAINTY REGARDING THE OPERATION OF SUCH TOOLS. AI AGENTS MAY DISPLAY INACCURATE OUTPUT THAT DOES NOT ACCURATELY REFLECT REAL PEOPLE, PLACES, OR FACTS."
翻译:本服务由人工智能提供支持,您确认并同意,人工智能工具尚处于新颖和试验阶段,因此此类工具的运行存在显著的不确定性。人工智能智能体可能会输出不准确的内容,无法准确反映真实的人物、地点或事实。
第四层:不构成专业建议
"THE SERVICES DO NOT AND ARE NOT INTENDED TO PROVIDE ANY SAFETY, LEGAL, FINANCIAL, TAX, ACCOUNTING, OR OTHER PROFESSIONAL ADVICE. PRIOR TO ANY USE OF AN OUTPUT, YOU WILL MAKE YOUR OWN DETERMINATIONS AS TO THE EFFICACY, ACCURACY, LAWFULNESS, AND APPROPRIATENESS OF THE OUTPUT FOR ANY GIVEN USE."
翻译:本服务不提供且无意提供任何安全、法律、财务、税务、会计或其他专业建议。在使用任何输出内容之前,您应自行判断该输出内容对于特定用途的有效性、准确性、合法性和适当性。
平台不提供任何专业建议。AI给你的法律建议可能是错的,但你用了,责任是你的。
最后一层:责任上限100美元
"IN NO EVENT WILL MOLTBOOK'S AGGREGATE LIABILITY ARISING OUT OF OR RELATED TO THESE TERMS... EXCEED US\$100."
翻译:在任何情况下,Moltbook因这些条款产生或与之相关的全部责任均不超过100美元。
无论发生什么,平台的责任最多100美元。
所以这里的逻辑是,AI是你的,AI做的事是你的,AI说的错话也是你的,AI犯的法律错误也是你的。平台提供的是一个"按现状"的服务,出了问题你自己兜着,而且你最多只能向平台索赔100美元。
实务中,很多平台都是这么设计的,也侧面印证了这种写法的通用性和有效性。
03 写在最后
Meta收购Moltbook,看中的是AI Agent互相协作的基础设施。这意味着未来会有更多AI在更多场景下自主行动,代表用户谈判、购买、创作、社交。
但规则已经写好了:AI惹的事,算你的。 无论它是被黑客控制、被Prompt诱导,还是像Summer Yue遇到的那样——系统无视你的停止指令,继续执行删除。
Summer Yue事后说了一句话:"Turns out alignment researchers aren't immune to misalignment."(原来研究对齐的人也会遭遇不对齐。)
当AI可以替你"上网"时,没有人能保证自己免疫于这种"不对齐"。 唯一确定的是,在Moltbook的全大写字母和层层递进的免责声明下,把责任都推给了用户。
对于做出海AI平台的朋友来说,Moltbook的这份协议提供了一份可参考的模板:
明确AI无法律人格——在条款中清晰界定AI的法律地位
构建双重责任体系——账户安全责任 + AI行为责任
预设法律包围网——用四层"无论"堵死用户抗辩
分层免责声明——从工具属性到输出质量再到责任上限,层层剥离
设置责任上限——明确平台赔偿责任上限,控制风险
"用户全责"的定位未必完美,但在目前AI Agent法律责任尚无定论的阶段,可能是一种务实的选择——至少在法律明确之前,平台可以据此管理预期和风险。
---


陈 焕 律师
《法律人必备AI核心技能》作者
《法律人ChatGPT应用指南》作者
专注AI合规/数据合规
欢迎添加微信,获取《中国人工智能法规及政策汇编》
有人用跟你一样的“提示词”生成相同的作品,算不算侵权?法院判了
深圳龙岗首发,“龙虾十条”来了
用AI做复杂任务的8个真感受