加州首部针对陪伴型聊天机器人的法律 Senate Bill No. 243（《陪伴聊天机器人法案》）于2025年10月13日正式签署生效，通过强制透明度披露和严格的未成年人保护机制，规范具备拟人化特征及情感连接能力的 AI 系统。对提供情感陪伴类 AI的出海企业来说，最需要关注的是第22605条引入的私人诉权：任何因违法遭受损害的用户都可直接提起民事诉讼，主张实际损害赔偿或每次违规1000美元法定赔偿（取其高者），一旦发生自杀干预失败或未成年人保护漏洞，企业将面临极高法律风险。
TL;DR
- S.B.243 于2025年10月13日签署生效，是加州首部规范陪伴型聊天机器人的法律。
- 适用对象为向加州用户提供陪伴型聊天机器人平台的运营者；仅用于客服、业务分析、受限视频游戏角色、独立语音助手设备等被豁免。
- 核心义务：非人类身份的显著披露、自杀/自残意念的阻断与危机转介协议、对已知未成年人每三小时休息提醒及内容过滤。
- 第22605条设私人诉权，救济含禁令、每次违规1000美元或实际损害（取高者）及律师费；责任非排他，不豁免其他法律责任。
- 自2027年7月1日起，运营者须向自杀预防办公室提交年度报告，披露危机转介数据与检测响应协议。
管辖范围
法案第22601条界定了两个核心概念。
运营者（Operator）：向加州内用户提供陪伴型聊天机器人平台的主体。
陪伴型聊天机器人（Companion Chatbot）：具备自然语言界面、呈现拟人化特征、旨在满足用户社交需求，并能跨越多次交互维持某种关系的人工智能系统。为精准监管，法案设立豁免清单，下列情况不属于陪伴型聊天机器人：
- 仅用于客户服务、企业运营、生产力与分析、内部研究或技术援助的机器人；
- 作为视频游戏功能、仅限回复游戏相关内容且不涉及心理健康/自残/性露骨话题的角色；
- 不具备持续社交关系的独立语音指令设备。
运营合规与报告义务
法案要求运营者履行透明度、安全干预及行政报告义务：
- 若拟真程度足以误导理性人，运营者须发布显著通知，澄清机器人的非人类属性；
- 在平台接入端提示机器人可能不适合部分未成年人；
- 建立针对自杀意念及自残内容的阻断与转介协议，并在网站公开细节，否则禁止互动；一旦识别到用户出现自杀意念，须推送危机服务转介（如热线与文本热线）。
自2027年7月1日起，运营者还需向自杀预防办公室提交年度报告，披露危机转介数据及检测响应协议，并采用有证据支持的方法衡量自杀意念。
未成年人强化保护
针对已知的未成年用户，法案构建多重保护：
- 提前明确披露互动对象为人工智能；
- 在持续互动中默认至少每三小时提醒休息，并告知该聊天机器人为人工智能生成，防止沉迷与认知混淆；
- 对 AI 生成内容进行风控，严禁生成任何涉及性明确行为的视觉材料，或诱导未成年人从事此类行为。
法律责任与救济
因违反本法遭受实际损害的个人有权提起民事诉讼，救济方式包括禁令和损害赔偿金，赔偿金以实际损失或每项违规1000美元法定赔偿中的较高者为准。法案特别强调责任适用的非排他性——本法规定的义务与救济，不豁免运营者在其他法律下的责任。
合规建议
产品功能的法律定性审查。法案对“陪伴”的定义高度依赖情感连接与关系维持等主观要素，合规团队需特别审查客服、助手类 AI 是否在迭代中引入了非必要的拟人化特征。若产品旨在建立长期用户粘性且具备类人情感交互能力，极易被认定为陪伴型 AI。建议在设计阶段明确区分功能性辅助与情感性陪伴的界限，避免因功能越界触发全套合规义务。
实时自杀/自残意念干预系统。企业需确保在识别风险关键词的瞬间强制推送危机干预服务（如自杀热线提示），并在官网公开披露该干预协议的运行逻辑与细节。这不仅是行政合规义务，更是在潜在民事侵权诉讼中证明企业已尽合理注意义务的关键证据。
面向未成年用户的交互界面。建议为未成年账户建立特殊逻辑，提供中断提醒机制，在界面显著位置持续或定期展示非真人身份标识，并部署内容过滤系统拦截任何涉及色情行为的诱导性输出。
附录：法案全文翻译
加利福尼亚州人民特此制定如下法律：
第 1 节 现将第22.6章（始于第22601条）增补至《商业与职业法》第8编，内容如下。
第22.6章 陪伴型聊天机器人（Companion Chatbots）
第22601条（定义）
- (a) 人工智能（Artificial intelligence）：一种工程化或基于机器的系统，其自主性水平各异，能够为明示或暗示的目标，从接收到的输入中推断如何生成可影响物理或虚拟环境的输出。
- (b)(1) 陪伴型聊天机器人（Companion chatbot）：一种具有自然语言界面的人工智能系统，能提供适应性的、类人的回应，满足用户的社交需求，包括表现出拟人化特征以及跨越多次交互维持某种关系。
- (b)(2) 陪伴型聊天机器人不包括：(A) 仅用于客户服务、企业运营、与源信息相关的生产力和分析、内部研究或技术援助的机器人；(B) 作为视频游戏功能、仅回复游戏相关内容、不讨论心理健康/自残/性露骨话题、也不维持游戏无关对话的机器人；(C) 功能为扬声器和语音命令界面的独立消费电子设备，作为语音激活虚拟助手，且不跨越多次交互维持关系、不生成可能引起用户情感反应的输出。
- (c) 陪伴型聊天机器人平台：允许用户与陪伴型聊天机器人互动的平台。
- (d) 办公室（Office）：根据《健康与安全法》第131300条设立的自杀预防办公室。
- (e) 运营者（Operator）：在本州向用户提供陪伴型聊天机器人平台的人。
- (f) 性露骨行为（Sexually explicit conduct）：具有《美国法典》第18编第2256条定义的含义。
- (g) 视频游戏：在具自带显示器的电子娱乐设备上玩、或设计用于与电视/计算机显示器配合、且能与用户互动的游戏。
第22602条
- (a) 如果理性的人在互动时会被误导认为对方是人类，运营者应发布清晰且显眼的通知，表明该陪伴型聊天机器人是人工生成而非人类。
- (b)(1) 运营者应阻止其平台上的聊天机器人与用户互动，除非维护一套协议以防止生成自杀意念、自杀或自残内容；协议包括但不限于：如用户表达自杀意念、自杀或自残倾向，向其提供含危机服务提供者（含自杀热线或危机短信热线）转介信息的通知。(2) 运营者应在其网站上公布该协议详情。
- (c) 对于运营者已知是未成年人的用户，应：(1) 披露该用户正在与人工智能互动；(2) 默认在持续互动中至少每三小时提醒用户休息，并提醒该聊天机器人是人工生成而非人类；(3) 采取合理措施，防止生成性露骨行为的视觉材料，或直接陈述该未成年人应从事性露骨行为。
第22603条
- (a) 自2027年7月1日起，运营者应每年向办公室报告：(1) 上一日历年根据第22602条发布危机服务转介通知的次数；(2) 为检测、移除和响应用户自杀意念而制定的协议；(3) 为禁止聊天机器人回复关于自杀意念或行动而制定的协议。
- (b) 报告应仅包含 (a) 款所列信息，不得包含用户的任何标识符或个人信息。
- (c) 办公室应在其网站上发布本条要求报告的数据。
- (d) 运营者应使用循证方法（evidence-based methods）衡量自杀意念。
第22604条 运营者应在其平台的应用程序、浏览器或用户访问平台的任何其他格式上，向用户披露：陪伴型聊天机器人可能不适合某些未成年人。
第22605条 因违反本章遭受事实损害（injury in fact）的人可提起民事诉讼，追回：(a) 禁令救济；(b) 实际损害赔偿金或每次违规1000美元（取较高者）；(c) 合理的律师费和诉讼费。
第22606条 本章规定的责任、补救措施和义务是对其他法律的补充，不得被解释为免除运营者根据任何其他法律所承担的任何责任、补救措施或义务。
参考资料
