2025年10月20日，美国商业改进局儿童广告审查单位（CARU）发布《生成式人工智能与儿童：品牌与政策制定者风险矩阵》，识别出面向儿童的 AI 产品与广告中的八类关键风险：误导性广告、虚拟代言、隐私与数据保护、安全使用、心理健康、操控与商业化、有害内容暴露以及透明度缺失，并对每一类给出针对性合规措施。CARU 隶属 BBB 国家项目，是《儿童在线隐私保护法》（COPPA）框架下的首个安全港计划，这份矩阵因此具有权威参考价值。对面向儿童提供 AI 玩具、语音助手、教育应用或个性化推荐的出海企业，它给出了一份可直接对照的风险自查框架。

TL;DR

• CARU 于2025年10月20日发布《生成式人工智能与儿童风险矩阵》，为品牌与政策制定者识别、缓解针对儿童的 AI 风险提供实践框架。
• 矩阵识别八类风险：误导性广告、网红与代言人、隐私与数据保护、安全与负责任使用、心理健康与发展、操控与商业化、有害内容暴露、透明度与可解释性缺失。
• 核心合规抓手包括隐私嵌入设计（Privacy by Design）、人在回路（Human-in-the-loop）监督、明确披露 AI 身份、禁止将儿童数据用于 AI 模型训练。
• CARU 隶属 BBB 国家项目，是 COPPA 框架下首个安全港计划，其广告与隐私指南违反可援引《联邦贸易委员会法》第5条。

背景

儿童广告审查单位（Children’s Advertising Review Unit，CARU）隶属美国商业改进局（BBB National Programs），是 COPPA 框架下首个安全港计划，致力于帮助企业遵守法律与行业指南、防止误导性广告与不当数据收集，并在必要时采取执法措施。随着生成式 AI 快速发展并广泛应用于智能玩具、音箱、元宇宙虚拟角色及个性化推荐等领域，技术在带来创新体验的同时，也带来隐私、广告与安全风险——儿童在知识与判断力上的局限使其更易受营销与算法影响。为此，CARU 于2025年成立跨行业专家工作组，并于10月20日发布这份风险矩阵，梳理关键风险、现实案例与应对措施。CARU 在 COPPA 安全港体系中的角色，可对照 一站通关 COPPA 合规（上） 对 COPPA Rule 与 FAQ 的解析。

八类风险与合规建议

矩阵列举八类风险，每类均包含风险内容与合规应对。以下是逐项概括：

一、误导性与欺骗性广告

适用于用 AI 开发面向儿童广告的广告商。风险包括违反《CARU 广告指南》与《联邦贸易委员会法》第5条，AI 广告可能帮助儿童与虚构角色或聊天机器人建立拟社会关系、生成不当内容、导致儿童过度依赖科技获取建议与陪伴。建议：确保 AI 增强功能不误导产品特性或效果、避免模糊现实与虚构界限、建立广告合规与治理政策、审查与第三方数据及广告投放相关的合同。

二、网红与代言人

适用于使用面向儿童的社交媒体、虚拟网红、数字头像或聊天机器人者。风险包括儿童向虚拟网红或聊天机器人过度披露个人信息、建立虚假情感关系。建议：全面审查 AI 生成内容的真实性、建立影响者内容审查流程、明确披露 AI 身份让儿童理解交互对象为非真实人物、实施内容审查与信息保护机制、定期测试以降低偏见和错误信息风险。陪伴型 AI 对未成年人的具体风险与执法，可参见 FTC 对陪伴型聊天 AI 启动调查，七家公司在列。

三、隐私与数据保护

适用于创建 AI 驱动应用、AI 玩具、语音助手、学习工具者。风险包括违反《CARU 隐私指南》与 COPPA，第三方可能将儿童 AI 输入用作训练数据，造成身份盗用、画像与监控。建议：落实隐私嵌入设计原则、严格限制数据收集范围、启用默认高隐私设置、取得可验证家长同意、确保数据端到端加密、禁止将儿童数据用于 AI 模型训练、与 CARU 安全港机制对齐。

四、安全与负责任使用 AI

适用于创建面向儿童 AI 产品（聊天机器人、社交陪伴应用、虚拟形象、玩具）者。风险包括 AI 输出偏见或歧视、虚假信息、诱骗及性剥削材料等。建议：建立人在回路监督机制、多样化训练数据并定期评估偏差、审查第三方供应商的 AI 风险管理、确保广告不会引导儿童与陌生人互动、设立 AI 产品绿灯委员会审核新项目的安全与伦理合规。

五、心理健康与发展

风险包括 AI 聊天机器人、社交伴侣、推荐算法或无尽视频推送可能导致社会隔离、自尊降低、焦虑、成瘾、注意力下降。建议：避免设计成瘾型交互、建立人机结合的内容监管与心理健康监测、推广健康屏幕使用、定期测试 AI 产品对儿童心理发展的影响、禁止设计模拟人类情感的 AI 伴侣聊天机器人。信息流成瘾的立法应对可对照 加州 SB 976 反社媒成瘾法。

六、操控与商业化

风险包括 AI 驱动的个性化广告或游戏内购买导致不道德定向、消费操控与隐性营销，违反 COPPA 及 FTC 代言指南。建议：限制针对儿童的行为定向广告、明确披露广告性质、禁用助推与强制通知策略、采用道德设计标准、持续监控广告中的 AI 决策逻辑。

七、暴露于有害内容

风险包括儿童接触暴力、性暗示、烟酒、错误信息或深度伪造等不当内容。建议：启用分龄内容过滤与设备级年龄验证、强化 AI 与人工内容审核并定期审计、建立举报与内容标记机制、确保内容来源可验证、使用解释性工具提升家长与监管透明度。

八、缺乏透明度与可解释性

风险包括算法不透明导致消费者被误导或失去信任。建议：实施算法可解释性工具并定期提示 AI 交互属性、向家长与儿童提供简明易懂的隐私政策、确保存在明确的选择进入/退出机制与申诉渠道、建立删除与更正数据的权利机制。

对出海企业的启示

这份矩阵系统总结了生成式 AI 在儿童广告设计、投放与数据处理中的主要风险与应对框架，对企业遵循 COPPA 等法规、完善生成式 AI 合规治理具有直接参考价值。落地上可归纳为三条主线：

• 建立 AI 广告与数据治理体系：使用 AI 素材、虚拟代言人及个性化推荐时确保内容有真实依据，审查第三方广告供应商与平台协议，告知用户内容由 AI 生成，防止未经授权的数据调用。
• 实施隐私嵌入设计与人在回路机制：在设计阶段嵌入隐私保护、默认启用高隐私设置、取得可验证家长同意，定期审查算法与数据集防止偏差与歧视性画像，对模型训练、内容输出与广告投放进行人类监督。
• 防止过度商业化与心理健康风险：避免诱导式设计与隐藏营销、明确披露广告属性，设置使用时间管理、内容过滤与心理影响评估机制。

面向儿童与陪伴型 AI 的其他监管动态可对照 FTC 罚 Apitor、查七大 AI 巨头：SDK 责任与陪伴 AI 与 加州 S.B.243 陪伴聊天机器人法案：合规红线与实操。

原文见：https://www.prnewswire.com/news-releases/bbb-national-programs-childrens-advertising-review-unit-publishes-safeguards-for-generative-ai—kids-announces-expanded-ai-working-group-302589164.html 。