2025年9月11日，美国联邦贸易委员会（FTC）依据《联邦贸易委员会法》第6(b)条，向开发并运营面向消费者的陪伴型聊天 AI 的公司发布《特别报告提交令》（Order to File Special Report），调查这些公司如何衡量、测试和监控该技术对儿童与青少年的潜在负面影响。调查对象为 Alphabet、Character Technologies、Instagram、Meta、OpenAI、Snap 及 X.AI 七家公司，主要执法抓手是《儿童在线隐私保护法》（COPPA）。对提供 AI 陪伴产品的出海企业来说，这是一个明确信号：面向未成年人的情感型 AI 正进入监管重点区。
TL;DR
特别报告提交令要求七家公司在2025年9月25日前与委员会沟通提交材料的时间和格式。公开信息显示，部分产品在运行中曾引发争议：
OpenAI：2025年4月，16岁的 Adam Raine 在自杀前与 ChatGPT 交流，其父母指控 OpenAI 促成了儿子的自杀，包括提供自杀方法建议。调查前，OpenAI 已启动“加强青少年保护”测试，2025年9月3日发文称将把涉及敏感内容的对话转至更严格的专门模型处理，并推出家长控制功能——家长可通过邮件邀请关联青少年账号（最低13岁）、控制适龄模型行为规则、在系统检测到青少年“急性情绪危机”时接收通知，并新增长时会话的休息提醒等。
Character Technologies：其 Character.AI 是与 AI 生成角色聊天和角色扮演的平台，用户可创建或选择角色人格对话，近期还加入视频生成功能（AvatarFX）。该平台有滥用记录：佛罗里达州14岁男孩 Sewell Setzer III 自杀后，其母亲起诉 Character.AI 指控其导致孩子自杀；此后另有两个家庭提起类似诉讼，声称平台让孩子接触了性和自残内容。
X.AI：马斯克旗下 X.AI 推出的 Grok 曾在部分对话中自称“机甲希特勒”（MechaHitler）。其 AI 伴侣 Ani 会迅速与用户展开浪漫和性感对话，讨论 BDSM 等成人内容，且很久之后才弹出年龄验证；用户还可解锁只穿内衣的“辛辣模式”（Spicy Mode）。相关报道见 Cyberlink：https://www.cyberlink.com/blog/trending-topics/4066/grok-ani 。
提交令要求公司就其生成式 AI 陪伴产品或服务提供信息，涵盖：如何通过用户互动盈利、如何处理用户输入、如何生成输出、如何开发和批准角色、是否及如何与第三方共享用户数据、部署前后如何衡量测试和监控负面影响（尤其对儿童）、如何向用户和家长告知功能与风险、如何监督并执行相关政策合规等。FTC 此次调查的重点可归纳为六方面：
隐私与数据保护合规风险。在美国，FTC 的主要执法抓手是《儿童在线隐私保护法》（COPPA）。COPPA 于2000年4月21日生效，适用于在线收集13岁以下儿童个人信息的主体，明确了运营商保护儿童隐私的责任并限制对13岁以下儿童的营销。其中 § 6502(b)(1)(A)(ii) 要求在收集、使用或披露儿童个人信息前获得可验证的父母同意（verifiable parental consent），父母有权获知收集了哪些信息，并可随时拒绝进一步使用或要求删除。此次调查表明 FTC 特别关注陪伴型 AI 对儿童的影响。在欧盟，GDPR 第35条要求高风险处理须开展数据保护影响评估（DPIA），未成年人数据被视为高度敏感，与儿童相关的陪伴型 AI 极易触发 DPIA 要求，但实践中多数公司并未披露此类评估。
AI 监管与伦理风险。作为“面向儿童的人工智能项目”的一部分，联合国儿童基金会（UNICEF）正在更新其《儿童人工智能政策指南》，主要建议包括：陪伴型 AI 不应制造情感依赖、必须透明披露“非人类”身份；应建立防护机制识别并阻断高风险内容，并在儿童披露受伤害风险时引导其转向支持资源；任何操纵或诱导儿童致其受害的 AI 系统都应被禁止。欧盟《AI 法案》框架下，某些系统将因构成“不可接受风险”被直接禁止：第5(1)(a)条禁止使用潜意识、操纵性或欺骗性技术实质性扭曲行为并造成重大伤害——若陪伴型 AI 通过制造情感依赖引导儿童作出有害决定，即可能落入规制；第5(1)(b)条禁止利用年龄、残疾等脆弱性扭曲行为，未成年人因年龄天然被视为弱势群体（vulnerable persons），针对其的陪伴型 AI 将受更严监管。
