合规动态

欧盟AI Act透明度义务8月2日起适用:企业需要完善哪些产品环节?

欧盟AI Act透明度义务8月2日起适用:企业需要完善哪些产品环节?

《欧盟人工智能法案》(Regulation (EU) 2024/1689,以下简称“AI Act”)第113条规定,AI Act在经过约两年的过渡期后,即自2026年8月2日起适用,除非条例另有规定。Article 50不属于第113条列明的提前或延后适用条款,其规定的透明度义务因此将于2026年8月2日起适用。Article 50分别规定了多项透明度义务,不同产品功能对应的责任主体、告知对象和实现方式各有区别:有些信息应当在用户首次与AI交互时直接呈现;有些标记应当写入生成内容并能够被机器检测;还有一些披露应当直接面向内容观看者或受到系统影响的人员。

需要注意的是,对于2026年8月2日前已投放市场的AI系统,Article 50(2)关于生成内容机器标记和可检测性的义务将自2026年12月2日起适用。该过渡安排不适用于Article 50的其他透明度义务。

2026年7月20日,欧盟委员会发布《AI Act第50条透明度义务实施指南》(以下简称“实施指南”),进一步说明AI系统提供者和部署者应当如何履行人机交互告知、合成内容机器标记、情绪识别与生物特征分类告知、深度伪造披露,以及公共利益文本披露等义务。对于面向欧盟提供AI助手、智能客服、AI图像生成、配音、修图、数字人、情绪分析、生物特征分类或内容发布服务的企业而言,当前需要逐项确认产品功能的责任主体、披露对象和透明度措施。仅增加一处统一的“AI生成”提示,无法覆盖所有合规场景。

本文将结合Article 50原文、实施指南及欧盟委员会配套问答,对五类AI产品透明度要求、提供者与部署者的责任划分、不同透明度措施的适用方式,以及企业需要开展的产品完善工作进行分析。

一、透明度义务的三种实现方式

从产品实施方式看,Article 50涉及以下三类透明度措施:

透明度措施主要对象常见实现方式
交互告知正在与AI系统交互或受到系统影响的自然人聊天窗口提示、欢迎语、界面通知
机器可读标记平台、检测工具及其他机器系统元数据、内容凭证、数字水印或其他可检测机制
显式披露深度伪造或特定公共利益文本的观看者、阅读者可见标签、可听提示、与内容直接关联的披露说明

需要注意的是,上述措施不能相互替代。在产品页面显示“AI生成”,不代表导出的图片、音频、视频或文本已经带有机器可读标记;在文件中加入隐式水印,也不能代替部署者向内容观看者作出清晰披露;在隐私政策或服务条款中作出一般说明,通常也不能直接替代首次交互或首次接触时的告知。

同一内容还可能同时涉及多项义务。例如,AI换脸工具的提供者可能需要确保输出带有机器可读标记;企业使用该工具制作并公开发布深度伪造视频时,又可能作为部署者承担显式披露义务。

二、不同产品场景下的具体要求

结合Article 50及实施指南,Kaamel从产品功能和实施环节出发,将相关透明度要求归纳为以下五类检查项:

产品场景责任主体产品需要解决的问题检查项
AI助手、智能客服、语音助手提供者用户能否在首次交互时识别AI身份检查项(1)
AI图像生成、写作、配音、修图提供者机器标记能否随生成内容一同输出并被检测检查项(2)
情绪识别、生物特征分类部署者受到识别或分类的人员能否获得有效告知检查项(3)
换脸、声音克隆、数字人等深度伪造部署者内容接收者能否及时识别其人工生成或操纵属性检查项(4)
面向公众的AI新闻、公告等公共利益文本部署者人工审核是否真正参与内容发布决策检查项(5)

(一)人机交互告知

对于AI助手、智能客服和语音助手,Article 50关注用户在交互开始时能否理解对方的AI身份。产品名称、欢迎语、聊天窗口提示和语音播报都可能承担告知功能。将相关说明放在隐私政策或服务条款中,通常无法证明用户在实际交互时已经获得告知。

这项义务看似只需要增加一句提示,实际还要结合完整的交互过程。例如,首页将产品命名为“AI助手”,用户通过搜索结果直接进入单独的聊天页面后,页面中可能已经看不到该名称;文字聊天提供了身份提示,切换至语音通话后,用户听到的却是高度拟真的真人声音;企业自有平台已完成提示,通过第三方平台、插件或API提供的同一项服务却没有沿用相同设计。这些情况都会影响告知措施的实际效果。

拟人化设计也会改变判断结果。真人姓名、人物头像、自然语音、模拟输入状态和情绪化表达越接近真人,用户产生误认的可能性越高。企业主张“用户显然知道对方是AI”时,应当把界面设计、进入路径和目标用户一并纳入评估,并确认提示能够覆盖网页端、移动端、语音模式和第三方接入渠道。

(二)合成内容的机器可读标记

对于生成或修改音频、图片、视频和文本的AI系统,Article 50要求提供者以机器可读格式标记相关输出,使其能够被识别为AI生成或操纵。页面上的“AI生成”提示主要服务于当前用户,机器可读标记则需要进入输出内容或与输出保持稳定关联。

因此,产品改造的重点在输出链路。企业需要确认网页下载、移动端保存、API返回、批量生成和第三方插件等不同输出渠道是否均已写入标记。产品具有多种文件格式时,还要确认每种格式是否得到覆盖。例如,图片导出为PNG时带有来源信息,转换为JPEG后可能丢失;视频原文件具有内容凭证,平台压缩或转码后可能无法继续读取;标记只保存在企业数据库中,也可能无法满足内容离开平台后的识别需要。

标记机制本身还需要经过测试。企业至少应了解标记在压缩、裁剪、截图、转码和常见编辑操作后的保留情况,并记录所采用技术的适用范围和已知限制。Article 50要求企业在技术可行范围内考虑有效性、互操作性、稳健性和可靠性。“已经接入水印功能”只能说明企业采取了措施,标记能否稳定发挥作用仍需结合测试结果判断。

标准编辑辅助和未实质改变输入或语义的功能可能适用例外。判断时需要观察功能的实际效果。自动降噪、亮度调整、背景替换、人物重绘和局部扩图虽然都可能被归入“编辑工具”,它们对原始内容的改变程度存在明显差异。产品名称无法直接决定例外是否适用。

(三)情绪识别和生物特征分类告知

情绪识别和生物特征分类系统的透明度设计,首先需要找出实际受到识别或分类的自然人。系统采购方、后台操作人员和被分析人员可能是三组不同的人,只向管理员展示功能说明,无法覆盖镜头前、设备前或数据中受到分析的人员。

这类系统经常嵌入其他业务流程。例如,招聘平台分析候选人的视频表现,门店摄像头分析顾客特征,在线会议工具分析参会者状态,教育产品分析学生注意力。被分析者未必主动打开某项AI功能,也未必能够从界面判断后台正在进行识别。因此,企业需要根据实际场景设计现场提示、界面通知或其他能够触达相关人员的告知方式,并考虑识别发生的时间和场所。

这一检查项还需要和AI使用本身的合法性分层处理。Article 50解决告知问题;Article 5的禁止性规定、GDPR以及其他数据保护规则决定相关功能能否使用、可以处理哪些数据。企业完成告知后,仍需单独评估工作场所、教育机构等场景中的情绪识别限制,以及处理生物特征数据所需的法律依据。

(四)深度伪造内容披露

深度伪造场景通常涉及两条产品链路:工具生成内容,企业或用户随后发布内容。生成工具提供者需要考虑机器可读标记;使用相关内容的部署者需要向观看者披露其AI生成或操纵属性。

这两项措施面向不同对象。机器标记主要供平台和检测工具读取,普通观看者未必能够看到。部署者在发布换脸视频、声音克隆内容、数字人视频或其他高度仿真的合成内容时,仍需设计面向自然人的显式披露。

产品团队需要决定披露由谁添加、添加在什么位置,以及如何贯穿整个内容。视频平台可以在播放器、标题区域或内容画面中提供标签;音频内容可能需要加入可听提示或与播放器稳定关联的文字说明;容易被转发和脱离原页面传播的内容,还要考虑披露能否随内容一起传播。只把说明写在发布后台、内部素材名称或生成工具介绍页面中,观看者通常无法直接获得相关信息。

艺术、创意、讽刺和虚构作品可以采用对作品展示影响较小的披露方式。企业仍需确保受众能够理解内容经过AI生成或操纵,并结合传播环境、内容真实程度和受众预期选择呈现方式。对于同时提供生成、托管和分发服务的平台,还应明确不同产品模块分别承担哪些透明度措施,避免披露责任在产品链路中出现空缺。

(五)公共利益文本披露

Article 50还覆盖为告知公众而发布、涉及公共利益事项的AI生成或操纵文本。对企业而言,产品设计上的关键问题通常是人工审核能否构成有效的编辑控制。

审核流程中出现自然人,并不必然说明文本已经经过实质审核。审核人员需要能够看到完整内容和主要依据,有权修改、退回或拒绝发布,并由自然人或法人对最终发布承担编辑责任。只进行拼写检查、格式调整或点击确认,难以体现审核人员对内容准确性和发布决定进行了实质判断。

因此,这项义务会直接影响内容管理系统的权限和工作流设计。企业需要明确哪些文本必须进入人工审核,审核人员可以执行哪些操作,关键事实和信息来源如何核验,内容修改和退回是否留痕,以及最终由谁批准发布。如果系统允许AI文本绕过审核直接发布,即使另有抽样检查机制,也需要重新评估披露义务。

“涉及公共利益”也不能只依据内容栏目判断。同一套AI写作工具生成营销文案、产品说明、公共安全通知和财经资讯时,具体文本的目的和主题可能不同。企业需要在内容分类或发布流程中识别可能触发该项要求的文本,避免对整个写作工具作出过于宽泛的统一结论。

三、适用透明度义务时需要区分的四个问题

(一)提供者与部署者

在Article 50下,提供者主要承担人机交互告知和合成内容机器标记义务;部署者主要承担情绪识别与生物特征分类告知、深度伪造和公共利益文本披露义务。同一企业可能因自行开发系统、委托开发、调用第三方模型、向客户提供功能或自行发布内容,在不同业务环节具有不同身份。

因此,企业不宜将整家公司统一认定为提供者或部署者,而应按照具体产品功能和业务链路分别判断。

(二)机器可读标记与显式披露

机器可读标记主要服务于自动检测和内容来源识别;显式披露主要帮助自然人理解内容是否由AI生成或操纵。同一内容可能同时需要两种措施,且两者不能相互替代。

(三)一般性说明与交互时告知

隐私政策和服务条款属于一般性信息。Article 50的多项义务强调首次交互或首次接触时的清晰告知,因此企业的主要整改位置往往是聊天窗口、播放器、内容页面、导出文件和发布流程。仅依赖隐私政策中的一般性声明,通常无法覆盖相关要求。

(四)透明度与AI使用的合法性

告知用户正在与AI交互,不代表系统功能及相关数据处理当然合法;披露深度伪造,不代表相关制作和传播行为不受其他法律限制;告知情绪识别,也不能排除Article 5的禁止性规则。透明度是AI合规的一部分,但不能替代对禁止性实践、数据保护、消费者保护、知识产权及其他适用要求的判断。

四、企业落实透明度义务的准备工作

Article 50相关透明度义务即将适用,Kaamel建议企业围绕以下六项工作开展产品与合规检查:

其一,建立AI功能清单。梳理直接交互、内容生成与编辑、情绪识别、生物特征分类以及企业对外发布AI内容等场景,并记录模型来源、输入输出、目标用户和欧盟市场触点。

其二,按照功能和业务链路判断主体身份。分别确认企业在各场景中属于提供者、部署者,还是同时具有两种身份,并明确产品、研发、法务、内容运营和客户各自承担的责任。

其三,将产品功能分别映射至检查项(1)至检查项(5)。明确每项功能的告知对象、告知时点、实现方式、例外条件及其他相关法律要求。

其四,形成产品验收标准。分别检查聊天窗口提示、机器可读标记、深度伪造披露和公共利益文本审核流程,并测试机器标记在导出、转码及常见传播链路中的保留情况。

其五,对例外情形形成书面判断。对于“用户显然知道正在与AI交互”“仅属于标准编辑”“已经完成有效人工审核”等结论,企业应记录事实依据和审核过程,而不应仅以产品名称或内部声明作为依据。

其六,保存合规证据。企业应保留界面截图、标记测试结果、审核记录、产品需求文档、版本记录、主体判断及例外评估,以便验证相关控制措施持续有效。

Article 50的实施要求企业结合具体AI功能,分别判断责任主体、透明度措施、例外条件和所需证据。一句统一的“AI生成”提示无法覆盖上述工作。本文归纳的五类检查项可以作为企业梳理产品功能和讨论完善方案的参考框架,具体适用结论仍需结合产品设计、使用场景和业务链路进一步判断。

参考资料

欧盟委员会Article 50正式实施指南欧盟委员会Article 50透明度义务问答欧盟委员会AI系统透明度规则速览欧盟委员会AI生成内容透明度实践准则Regulation (EU) 2024/1689

开启你的合规之旅!

与 Kaamel 的隐私专家取得联系

https://kaamel.com
info@kaamel.com
340 E Middlefield Rd, Mountain View, CA 94043
AICPA Drata
© 2024 Kaamel Inc. All rights reserved.