2025年11月11日，欧盟数据保护监管局（European Data Protection Supervisor，EDPS）发布《AI 系统风险管理指南》，把可解释性（Interpretability/Explainability）确立为符合数据保护原则的绝对先决条件（sine qua non）：无法解释决策逻辑的黑盒模型，在 GDPR 下即被视为存在根本性合规缺陷。指南依据《欧盟 2018/1725 号条例》（EUDPR）与 ISO 31000:2018 风险管理标准，覆盖 AI 从启动、开发、采购到退役的九个阶段，为数据控制者（controller）与 DPO 提供了一份技术风控清单，而非又一份法律文本解读。

TL;DR

• EDPS 于2025年11月11日发布《AI 系统风险管理指南》，依据 EUDPR 和 ISO 31000:2018，把 AI 生命周期拆为九个阶段。
• 指南第4章将可解释性与可理解性定为数据保护的绝对先决条件；无法解释决策逻辑的黑盒模型在 GDPR 下被判定为根本性合规缺陷。
• 指南指出采购外部预训练模型不转移合规责任，控制者仍需全程执行公平性、准确性、数据最小化与安全评估。
• 当机器遗忘（Machine Unlearning）成本不可行时，指南要求以输出过滤（Output Filtering）作为删除权的必要替代缓解措施。

指南背景：回归数据保护监管本位

这份指南刻意与《AI Act》的市场监管职能划清界限。AI Act 面向产品投放市场的合规，EDPS 则依据 EUDPR 与 ISO 31000，专注于个人数据处理层面的基本权利风险。它沿用 ISO 31000 的闭环，但只聚焦通用的风险识别与技术性处理措施，把依赖具体业务场景的风险评价裁量权留给企业。这套定位使它成为企业应对《AI Act》与 GDPR 交叉合规时的实操参考，也延续了欧盟近期把技术义务前移到产品设计的监管思路，与欧盟 AI Act 简化提案、韩国 AI 基本法 2026 年生效构成同一条监管脉络。

指南把 AI 全生命周期细化为启动分析、数据获取与准备、开发、验证与确认、部署、运行与监控、持续验证、重新评估及退役九个阶段，并单独为采购场景建立流程映射：招标与选择阶段就必须同步考量技术开发阶段的潜在风险，确保自研与外购系统纳入统一风控。

落地动作一：部署 AI 透明度文档体系

指南第4章明确，对黑盒模型，如果无法理解决策背后的原因，企业就无法确保处理的公平性，也无法发现潜在偏见。一旦企业无法解释 AI 决策逻辑，不仅无法满足透明度义务，还会在监管调查或用户投诉时丧失抗辩能力。落地上应从五个维度构建透明度文档：

• 记录模型选择逻辑：论证为何选用某种架构（决策树还是神经网络），证明在设计阶段已权衡复杂性与可解释性，而非盲目追求高风险复杂模型。
• 训练数据溯源：记录个人数据来源（公开数据集还是自采集），论证其为何适合当前业务目标。
• 量化群体公平性差异：引入统计学审计，细分不同群体（如性别、地域）的准确性表现，及时发现算法歧视。
• 偏差描述与修正：记录潜在偏差类型及已采取的技术缓解措施，证明已尽到最大努力义务。
• 说明系统能力边界：明确系统能做什么、不能做什么，调整用户预期，规避过度依赖带来的责任。

指南以历史就业数据训练筛选 CEO 的模型为例：由于历史上男性 CEO 占主导，模型可能错误学到「男性更适合该职位」的偏见，系统性歧视女性候选人。这类历史偏差的延续，正是公平性文档要主动暴露的对象。

落地动作二：审查第三方 API 接入

指南第5.2.5节把「来自 AI 系统提供商的不明确信息」列为采购阶段的独立风险。采购外部模型并不意味着合规风险转移，控制者仍需全权负责执行合规评估。若供应商只提供模糊信息，企业无法评估训练数据集的人口统计学特征是否与实际运营数据相符，可能面临算法歧视责任；API 接入点的安全漏洞还可能直接导致数据泄露。审查体系包含三点：

• 披露数据收集与训练细节：要求供应商说明个人数据的收集方式与来源，审查其是否做过清洗、标注、去偏，并提供训练集统计属性以评估匹配度。
• 确保决策可解释性：要求供应商提供可解释性文档；若无法提供清晰的决策归因，可在合同的服务水平协议中设定免责条款。
• 构建 API 技术安全措施：实施强身份验证防止未授权访问，配置限流机制防止暴力破解与滥用，强制所有 API 通信使用 HTTPS 加密。

这一逻辑与自动化决策的监管方向一致。英国在 DUAA 2025 下更新 ADM 指南时，同样强调控制者对第三方模型输出的问责，可参考英国 DUAA 改写自动化决策、ICO 更新 ADM 指南。生成式模型接入儿童场景时的额外风险，则见美国 CARU 发布生成式 AI 与儿童风险矩阵。

落地动作三：配置防反刍的输出阻断机制

指南第5.5.2节指出，仅在数据库中删除个人数据往往不足以清除模型中的记忆，模型可能在推理阶段通过反刍（Regurgitation）或被攻击者利用而重新输出已要求删除的个人数据。第5.5.2.2节明确：当机器遗忘在计算或经济成本上不可行时，企业必须使用输出过滤作为必要替代。技术上重训大模型成本过高，不能作为拒绝履行删除权的合法理由。落地包含三点：

• 机器遗忘成本效益评估：区分精确遗忘（Exact Unlearning）与近似遗忘（Approximate Unlearning），计算完全重训与参数微调的成本差异，为高价值敏感数据的彻底清除提供决策依据。
• 防记忆解码策略：调整模型生成的解码配置，引入如 MEMFREE 解码等手段，防止模型精确复制训练数据中的长文本片段。
• 记忆残留检测工具链：在部署后及定期重估阶段扫描模型对特定数据的记忆程度，验证用户删除请求后该数据点确实已无法被输出，形成合规闭环证据。

指南以「Jane Doe」请求删除数据为例说明技术难点：在深度神经网络中，个人数据被转化为无数抽象参数，要在不破坏整体性能的前提下精准移除代表特定个人的数据极具挑战。这也是模型反演攻击（model inversion）的风险来源——攻击者无需入侵数据库，仅通过分析模型输出就能反向重构训练集中的敏感信息。同类 AI 企业面对监管审查的处境，可参考OpenAI 遭 FTC 正式调查与自主智能体 OpenClaw 的个人信息合规风险。

对出海企业的启示

这份指南把 AI 合规从法律文本分析，推向基于 ISO 31000 的全生命周期技术风控。无论自主开发还是外部采购，控制者都必须在技术层面落实具体控制措施来缓解对基本权利的风险。指南在附录中提供了针对 NLP、计算机视觉等不同模型的性能评估指标与分阶段风险检查表，把抽象原则转成可操作的工具箱。对出海企业而言，最实际的一步是把可解释性文档、供应商审查条款与删除权的输出过滤机制，前置到模型选型与采购合同阶段，而不是等监管调查时再补。

参考：Hunton 解读 https://www.hunton.com/privacy-and-information-security-law/edps-publishes-ai-risk-management-guidance ；指南原文 https://www.edps.europa.eu/system/files/2025-11/2025-11-11_ai_risks_management_guidance_en.pdf 。