OpenAI 遭 FTC 正式调查:AI 企业的合规红线

OpenAI 遭 FTC 正式调查:AI 企业的合规红线

Kaamel Lab
Kaamel Lab 2023年8月4日

美国联邦贸易委员会(FTC)于 2023 年 7 月 13 日以一份长达 20 页的民事调查要求(CID)正式调查 OpenAI 是否违反消费者保护法,聚焦其如何处理个人数据、可能向用户提供不准确信息,以及“伤害消费者的风险,包括声誉损害”。这是对这家微软支持的初创公司最强烈的监管威胁,也标志着 AI 企业开始直面 FTC 层面的正式执法。

TL;DR

调查要求的焦点

在这份 CID 中,FTC 要求 OpenAI 回应数十项请求,从如何获取用于训练大型语言模型的数据,到描述 ChatGPT 生成关于真实个人的虚假、误导或贬低陈述的能力。FTC 还要求提供收到的公众投诉、涉及的诉讼清单,以及 2023 年 3 月数据泄露的证词。该机构正在调查 OpenAI 是否从事不公平或欺骗性做法导致消费者“声誉受损”,并就数据获取、模型训练、风险评估与缓解、隐私保护机制提出详细问题。

FTC 对 OpenAI 发出的民事调查要求(CID)文件,File No. 232-3044

ChatGPT 的用户增长与关注

ChatGPT 是历史上增长最快的消费者应用,仅用 2 个月就实现用户过亿,此前最快记录是 TikTok 的 9 个月。它的成功引发硅谷竞争,也让监管机构对其背后的大量数据采集表示担忧。

ChatGPT 以约 2 个月达到 1 亿用户,快于 TikTok 的 9 个月(数据源 UBS / Yahoo Finance)

FTC 特别关注 2023 年 3 月的安全事件:一个开源库的漏洞使部分用户能看到他人的聊天标题,并在约九小时窗口内导致 1.2% 的 ChatGPT Plus 订阅者的支付相关信息(姓名、邮箱、支付地址、信用卡类型及末四位、有效期)意外可见——完整卡号未被暴露。OpenAI 称实际数据被他人看到的用户数量“极低”。FTC 正在调查其数据安全措施是否违反消费者保护法。

OpenAI 就 2023 年 3 月数据泄露事件发布的技术说明

并行的欧盟 GDPR 风波

FTC 的调查并非孤例。早在 2023 年 3 月,意大利监管机构就指控 OpenAI 违反欧盟 GDPR,导致 ChatGPT 在意大利下线;后来 OpenAI 同意增加年龄验证功能、并允许欧洲用户阻止其信息用于训练 AI 模型,ChatGPT 才得以恢复。此外,2023 年 5 月白宫曾与 OpenAI、谷歌、微软等公司 CEO 会面探讨技术风险,七家最大的 AI 公司也同意在 8 月的 Def Con 大会上开放模型接受一定程度的公众监督。意大利封禁的完整背景,见生成式 AI 井喷后,隐私监管如何跟进

对出海企业的启示

OpenAI 先后遭欧盟监管机构与 FTC 正式调查,表明 AI 在快速发展的同时面临日益严格的监管。对开发或使用 AI 技术的企业,这份 CID 划出了几条合规红线:训练数据的合法来源要经得起追问、生成内容对真实个人的名誉影响要有缓解机制、数据安全事件要能追溯与说明、且要准备好在多个法域并行的调查中回应。FTC 对 AI 领域的后续执法方向,可参考FTC 对陪伴型聊天 AI 启动调查FTC 起诉 Match:隐私政策虚假陈述 ;AI 专项立法的进展,见欧盟通过 AI Act 简化提案韩国 AI 基本法 2026 年生效

开启你的合规之旅!

与 Kaamel 的隐私专家取得联系

https://kaamel.com
info@kaamel.com
340 E Middlefield Rd, Mountain View, CA 94043
AICPA Drata
© 2024 Kaamel Inc. All rights reserved.