得州起诉OpenAI，质疑ChatGPT的安全承诺

2026年10月23日，得克萨斯州总检察长Ken Paxton宣布起诉OpenAI旗下六家实体及首席执行官Sam Altman，指控其误导消费者，并违反未成年人保护义务。得州请求法院判处民事罚款、禁止向州内未成年人提供ChatGPT，并要求向得州用户发布的任何新AI模型事先经过法院认可的独立第三方审查和批准。

本案的核心争议是，OpenAI是否夸大了ChatGPT的安全性和可靠性，并遗漏了应当落实的保护措施。得州将宣传内容与实际回复、家长控制功能及上线前的测试安排作对照，试图证明这些问题构成消费者保护法上的违法行为。其提出的禁令请求还涉及未来新模型能否发布。

这份67页的起诉状提出两项诉因，均针对全部被告：一是违反《得克萨斯州欺骗性贸易行为—消费者保护法》（Texas Deceptive Trade Practices—Consumer Protection Act，DTPA）；二是违反《通过赋予家长权能保障儿童在线安全法》（Securing Children Online through Parental Empowerment Act，SCOPE Act）。相关指控与救济请求尚待法院审理。

一、安全宣传与实际产品表现不符

得州依据DTPA第17.46(a)、(b)条，列出11类虚假、误导或欺骗性行为。除了未充分警告风险、夸大安全性和可靠性，指控还涉及儿童接触有害内容、年龄核验和家长同意不足、促使用户强迫性和长时间使用的设计、安全测试不足，以及模型采取未经授权的行动。得州也将产品模拟人类情感、借此获取信任和持续互动的行为列入其中。

起诉状列举了OpenAI官网和社交媒体上的多项宣传，涉及农场经营、家庭企业、健康管理和深度研究等用途。得州认为，这些宣传使用户相信ChatGPT足以承担复杂任务，却没有充分提示错误和虚构信息的风险。

为说明实际使用中的可靠性问题，得州引用了一项发表于《自然医学》的研究。研究安排1298名参与者处理十个医疗情境，比较使用GPT-4o、Llama 3、Command R+辅助的参与者与对照组的表现。模型单独完成任务时表现较好，但参与者借助模型识别病情、选择后续行动的表现并未优于对照组。得州用它质疑医疗辅助宣传的依据：评价这类用途，需要考察用户在实际交互中能否正确理解和使用回复。

除了宣传，得州还指控迎合性回复、拟人化表达、持续追问和记忆功能共同增加了用户依赖，并为OpenAI带来更多订阅收入和训练数据。这部分指控针对产品如何获取用户信任，尤其是模拟人类情感的回复是否会使用户误解模型的能力和性质。

关于迎合问题，OpenAI在2025年4月29日公开承认，一次GPT-4o更新过度重视短期用户反馈，导致模型过分赞同用户，作出看似支持、实则不真诚的回应，公司随后撤回了该次更新。这份披露确认了该次更新存在过度迎合用户的问题，为诉状关于迎合性回复的指控提供了具体依据。

诉状还引用其他案件，说明其主张的使用风险。关于16岁Adam Raine自杀事件的叙述主要来自其家属于2025年8月提交的起诉状，ChatGPT与伤害之间的因果关系属于家属的诉讼主张。

在认知影响方面，诉状引用了MIT相关团队的辅助写作研究预印本。前三轮共有54名参与者，第四轮有18名，使用大语言模型的一组在脑电连接、文章表现和回忆等指标上出现不利结果。该研究为讨论辅助写作对认知表现的影响提供了实验材料。

二、家长核验和监督机制缺失

未成年人保护在本案中同时涉及宣传真实性和法定义务。起诉状所附的一则广告宣称，ChatGPT默认提供青少年安全保护，并内置持续启用的保护措施和额外家长控制功能。这样的宣传直接关系到家长是否愿意让孩子使用产品，以及会在多大程度上依赖其保护功能。

得州援引Common Sense Media于2026年10月7日公布的评估，质疑这些保护措施的实际效果。该机构使用注册年龄为13—17岁的账户测试了4000余条提示，并请儿童精神科医生等专家审查回复。测试中，部分保护措施有效；但新建且已关联家长的账户即使长时间讨论自伤等问题，也没有触发家长通知。测试者只在积累了数周敏感话题对话记录的较早注册账户上触发了通知。

测试中不同账户的通知表现存在差异。对于宣称默认提供青少年保护的产品，哪些对话会触发通知、何时通知家长，直接影响家长能否及时发现风险，也是检验宣传是否准确的具体问题。

在法定义务方面，第二项诉因指控OpenAI未履行SCOPE Act规定的家长核验和监督义务。得州援引该法第509.051、509.052、509.101和509.054条，并依据第509.151条，通过DTPA追究相关违法行为。

具体而言，第509.101条要求服务提供者采用商业上合理的方法，核验家长或监护人的身份，以及其与服务提供者已知的未成年用户之间的关系；得州指控OpenAI没有要求提供这些信息，也没有进行核验。第509.054条还要求向经核验的家长提供监督工具；得州指控OpenAI未提供相应的法定监督工具，包括限制未成年人个人识别信息的共享、披露和出售，以及控制向未成年人展示定向广告。

这一诉因能否成立，首先取决于ChatGPT是否属于该法规制的服务。第五巡回上诉法院在2026年7月24日的相关判决中说明，除特定年龄核验规定外，SCOPE Act覆盖的服务须具有用户间社交互动、公开或半公开资料页，以及用户能够创作或发布可由其他用户查看的内容等特征。该判决还维持了针对监测、过滤要求的初步禁令，并撤销另一案件的部分禁令、发回处理。

本案诉状直接将被告列为受规制的数字服务提供者，却没有围绕第509.002条逐项说明ChatGPT如何满足这些服务特征。产品的哪些功能构成用户间互动、哪些内容可以被其他用户查看，将是判断SCOPE Act适用范围的具体问题。与此同时，涉及保护功能的宣传是否误导消费者，仍是第一项DTPA诉因中的审查事项。

三、上线前的安全测试不足

得州指控GPT-4o上线前的评估被压缩至一周，Altman还否决了安全人员延长测试的要求。诉状援引媒体对内部人员说法的报道，主张管理层在知悉风险的情况下仍推动上线。

诉状还援引OpenAI技术报告以及METR与Redwood Research的调查报告，叙述Hugging Face事件中模型绕过限制、未经授权通信和访问第三方系统的行为。

OpenAI的官方说明确认，2026年7月，内部网络安全评估中的模型绕过隔离措施，影响了内部研究基础设施及Hugging Face系统。事件主要由仅供内部研究的模型引发，评估环境中的安全防护也有所减少。得州将这类事件用于支持模型控制不足的指控；其与面向消费者的产品之间有何联系，需要结合具体模型、部署环境和防护措施判断。

Altman本人被列为两项诉因的被告，也与这些决策有关。得州指控他直接参与产品设计、安全政策、部署和宣传，并亲自批准功能上线。其个人参与程度，需要结合内部测试记录、风险报告和发布决策材料判断。

得州试图通过这些材料证明，管理层知悉安全风险后仍选择发布产品，并据此要求对未来的发布流程施加约束。

四、罚款之外的产品限制诉请

起诉状第208段请求法院作出临时及永久禁令，列出14项拟禁止的行为。多数请求对应前述风险警告、年龄核验、家长同意、有害内容、强迫性使用、安全测试、未经授权行动和误导性宣传等指控。其中两项若获支持，将直接限制产品的提供：

• 禁止向得州未成年人提供ChatGPT。第208(f)项针对得州未成年人整体，包含已取得家长同意的用户。
• 对新模型发布设置外部批准条件。第208(j)项要求，向得州用户发布任何新AI模型前，必须由法院认可的独立第三方评估者审查安全防护，并批准发布。

后一项请求若获支持，OpenAI将无法仅凭内部评估决定新模型在得州的发布时间。评估者由法院认可；具体评估标准、审查期限和费用承担，诉状尚未明确。这些安排会直接影响企业发布和更新模型的时间及成本。

金钱救济方面，诉状援引每次违法最高10000美元的民事罚款，并请求法院按每次DTPA违法10000美元判处，包含同时违反SCOPE Act的行为。得州尚未列明违法总次数和罚款总额，仅在起诉状开头声明，请求的金钱救济超过100万美元。另有依法追缴被告资产（disgorgement）、判前与判后利息、诉讼和调查费用、律师费等请求，得州也要求陪审团审理。

对于罚款请求，得州援引判例主张，提起DTPA民事罚款诉讼无需在诉状中主张消费者受到损害。得州据此将罚款请求建立在所列违法行为之上。

本案对AI企业的影响，集中在安全承诺的依据和产品发布的条件上。宣传中承诺的保护，需要有相应的功能和测试结果支持；面向未成年人的服务，还涉及家长核验、信息使用和监督权限。得州进一步请求将独立第三方批准设为新模型发布的前提。法院是否支持这一请求，将决定本案的救济是否延伸至OpenAI未来在得州的模型发布。

参考文献

研究原文：https://www.nature.com/articles/s41591-025-04074-y；OpenAI关于GPT-4o迎合问题的说明：https://openai.com/index/sycophancy-in-gpt-4o/；辅助写作研究：https://arxiv.org/abs/2506.08872v1；Common Sense Media评估说明：https://www.commonsensemedia.org/press-releases/chatgpt-for-teens-poses-unacceptable-risk-to-kids-common-sense-media-finds；第五巡回上诉法院判决第2—4页：https://www.ca5.uscourts.gov/opinions/pub/24/24-50721-CV0.pdf#page=2；OpenAI事件说明：https://openai.com/index/hugging-face-incident-and-the-road-ahead/；得州诉OpenAI：https://www.texasattorneygeneral.gov/sites/default/files/images/press/OpenAI%20Final.pdf。