2024年11月8日，英国Ofcom向英国在线服务提供商发布了一封公开信，提供指导并详细说明《在线安全法》（Online Safety Act）如何适用于在线生成式人工智能和聊天机器人。

发布背景

英国Ofcom是《在线安全法》确立的监管机构，来确保网站和应用程序等在线服务平台提供商履行其保护用户的职责。据媒体报道，近期出现多个涉及使用在线生成人工智能的伤害事件：美国一位青少年与基于《权力的游戏》角色的聊天机器人建立关系而悲惨死亡；生成式人工智能平台的用户创建聊天机器人作为真人和已故儿童的“虚拟克隆”，引发大众对生成式人工智能安全和道德方面的担忧。Ofcom借此提醒在线服务提供商《在线安全法》中对生成式人工智能和聊天机器人的监管要求。公开信是阐明生成式人工智能服务如何受《在线安全法》监管的重要一步，Ofcom试图通过明确将人工智能生成的内容纳入受《在线安全法》监管的范围，确保该法案能够应对技术快速发展带来的挑战和风险。

主要内容

《在线安全法》对生成式人工智能和聊天机器人的适用性

生成式人工智能（Generative AI ），是指能够根据用户提示创建文本、图像、音频和视频的人工智能模型，公开信明确了生成式人工智能聊天机器人工具和平台受《在线安全法》的监管,包括：

• 根据法案规定，允许用户通过与其他平台用户共享图片、视频、消息、评论或数据来相互交流的网站或应用程序属于“用户到用户服务”（user-to-user services）。 如果网站或应用程序包含生成式人工智能聊天机器人，并允许用户与其他用户共享聊天机器人生成的文字、图片或视频，则该网站或应用程序属于“用户到用户服务”。例如，允许多个用户同时与聊天机器人进行互动的服务。
• 如果网站或应用程序允许用户上传或创建自己的生成式人工智能聊天机器人——“用户聊天机器人”（user chatbots），并供其他用户使用，那么它也是一项“用户到用户服务”。这包括为用户提供工具，创建模仿真实人物或虚构人物角色的聊天机器人，并将其提交到聊天机器人库供其他人与之互动的服务。这些“用户聊天机器人”创建的任何文本、图像或视频都是“用户生成内容”（user-generated content），受该法案监管。
• 用户在“用户对用户服务”上分享的任何人工智能生成的文字、音频、图像或视频都是“用户生成内容”，其监管方式与人工生成的内容完全相同。

搜索服务和色情内容的监管

该法案还以其他方式对生成式人工智能工具和内容进行了规范，主要表现在：

• 能够搜索多个网站和/或数据库的生成式人工智能工具属于该法案所指的“搜索服务”（search services）。这包括修改、增强或促进现有搜索引擎搜索结果的工具，或在独立平台上向用户提供“实时”（live）互联网搜索结果的工具。
• 包含生成人工智能工具的网站和应用程序，如果能够生成色情材料，也受该法案监管。这些服务必须使用有效的年龄验证，以确保儿童无法访问色情材料。

《行为准则》草案义务

Ofcom建议上述服务的提供商做好准备，履行相关义务，如果未履行法案中的强制职责，将面临来自Ofcom包括罚款在内的执法行为。Ofcom的《行为准则》（Codes of Practice）草案中的许多措施将帮助“用户到用户服务”和“搜索服务”提供商履行相关义务，保护用户免受生成式人工智能带来的风险，这些措施包括：

• 指定专人负责遵守《在线安全法》；
• 设置在发现非法帖子时迅速将其删除的内容审核功能，以保护儿童免受有害内容的侵害；
• 设置资源充足、训练良好的内容审核功能；
• 使用高度高效的年龄验证功能，防止儿童在平台允许的情况下接触到有害内容；
• 提供易于访问和使用的报告和投诉流程。

《在线安全法》具体实施节点

在本公开信中还提供了《在线安全法》相关配套措施出台的时间节点：

• 2024年12月：Ofcom发布最终的非法伤害风险评估指南和行为准则。第一批相关义务开始可强制执行。
• 2025年1月：Ofcom对属于《在线安全法》第5部分的色情网站发布对应指南，届时服务提供商的年龄保障义务可强制执行。
• 2025年3月中旬：属于《在线安全法》第3部分的网站和应用程序提供商必须在此之前完成非法伤害风险评估。

合规启示

《在线安全法》给在线服务提供商施加的第一批义务将于今年年底开始可强制执行，Ofcom的公开信提醒了相关服务提供商重视合规，避免因合规问题产生法律风险。Ofcom的监管对象不限于总部位于英国的在线生成式人工智能服务提供商，即使提供服务的公司位于英国境外，只要这些公司与英国有联系，都受《在线安全法》的监管：包括提供的服务有大量英国用户、目标市场在英国或者英国用户可以使用该服务，并且存在对用户造成损害的重大风险，这些服务提供商均需要遵守相关规则。

根据公开信，建议生成式人工智能服务提供商尽快采取合规措施，包括但不仅限于：对平台上生成式AI和聊天机器人的使用进行全面的风险评估，充分识别分析潜在风险；建立有效的内容监控机制，持续审查生成内容，确保其符合人工智能相关法律法规的监管要求；采取高效的用户保护措施，特别关注未成年用户，防止他们接触到色情内容；提高透明度；确保用户在知情的情况下使用服务。在线服务提供商，特别是涉及生成式人工智能及聊天机器人的公司可以参考该公开信的指示，并在《行为准则》颁布之际严格履行相关职责，有效管理平台上的生成式AI和聊天机器人，确保其在法律框架内安全运行，保护用户免受潜在的风险和危害。