韩国《人工智能发展和建立信任基础框架法》(第20676号法律,下称“AI 基本法”)于2025年1月21日通过、2026年1月22日正式生效,是继欧盟《AI 法案》之后又一部综合性 AI 立法。它在结构上促进与规制并重:前半部分构建国家级产业扶持体系,后半部分针对特定高风险场景设定底线义务。对出海韩国的 AI 企业而言,最需要关注的是三件事——被认定为“高影响人工智能”后的一整套义务、生成式内容的标识义务,以及境外企业须指定国内代理人。违反法案最高面临3000万韩元行政罚款。
TL;DR
AI 基本法的立法逻辑体现了韩国在欧盟式风险规制与美国式创新驱动之间寻求平衡:与欧盟侧重惩罚性遏制不同,韩国的结构呈现促进与规制并重。适用范围上,即使行为发生在境外,只要对韩国市场或用户产生影响本法即适用;仅为国防或国家安全目的开发使用的 AI 不适用。法案对关键概念作了界定,包括人工智能、人工智能业务经营者(分为开发业务经营者与利用业务经营者)、用户、受影响人等。
其中“高影响人工智能”指在下列领域使用、对人的生命、身体安全或基本权利可能产生重大影响的 AI:能源供应;饮用水生产;医疗保健服务系统的建立运行;医疗器械及数字医疗器械的开发使用;核材料与核设施的安全管理运行;用于刑事调查或逮捕的生物特征信息分析利用;对个人权利义务有重大影响的判断或评价(如招聘或贷款筛选);交通工具、设施与系统的重大运营管理;公共机构影响公众的决策(如公共服务资格核定);幼儿、小学及中学教育中的学生评价;以及总统令确定的其他重大影响领域。
AI 基本法构建了以总统直属委员会为核心、政策支持与安全技术研究为两翼的治理架构:
私人自主 AI 伦理委员会。法案鼓励企业、研究机构设立独立运作的伦理委员会,吸纳外部专家并确保性别构成多样性,职能包括确认研发使用遵守伦理原则、调查安全与人权侵犯问题、监督程序与结果、开展伦理教育、制定伦理准则等。
透明度义务。经营者提供高影响 AI 或生成式 AI 服务时,必须在用户使用前明确告知该服务基于 AI 运行;对生成式产品生成的文本、声音、图像或视频进行显著标识,确保用户能识别其为 AI 生成;当虚拟内容可能与真实内容混淆时须采取清晰标识(艺术创作等特殊场景可采用不影响欣赏的标识方式)。
安全义务。针对用于模型训练的累计算力达一定标准的 AI 系统,经营者须在全生命周期内持续识别、评估与缓解风险,建立风险管理体系,监测与应对安全事故,并将实施结果汇总后向科学技术信息通信部提交报告。
高影响 AI 的责任与评估。经营者在提供产品或服务前须自行审查是否属于高影响类别(必要时可请部长确认)。一旦被确认为高影响 AI,须依总统令履行六项义务:建立并运行风险管理计划;制定并实施结果可解释性方案(在技术可行范围内解释最终结果、主要标准及所用学习数据概况);建立用户保护措施;对系统进行人工管理与监督;准备并保存能确认安全可靠性措施的文档;以及委员会决定的其他事项。此外须在事前开展针对基本人权的影响评估——法案规定国家机构采购时必须优先选择已通过影响评估的产品,使完成评估不仅是合规要求,更是进入政府采购市场的关键。
境外企业指定国内代理人。在韩国境内无实体经营场所的境外 AI 企业,若用户数量或营收达到特定门槛,必须书面指定一名在韩国有住所或营业场所的国内代理人,由其履行提交安全报告、申请高影响 AI 资格确认、配合合规调查等职责;若代理人违规,法律责任将直接追究至境外企业。
AI 基本法下位法体系包含1个实施令、1项告示、5项指南,由科学技术信息部组建80余名民间专家的整顿团、经70余次沟通形成。关键内容包括:
告示与5项指南进一步补充:开发企业负责制定“结果解释方案”(如公开训练数据概况),应用企业负责用户反馈机制与应急停止措施;企业须在官网公示风险管理措施(涉商业秘密可豁免)。5项指南分别覆盖透明度保障、高影响 AI 确认、企业义务边界(参考欧盟与美国标准划清开发与应用企业义务)、AI 影响评估(协调与现有个人信息评估的关系避免重复),以及高性能 AI 安全(明确算力计算方法)。