资讯

FTC 对 OpenAI、Anthropic 展开调查:失控的 AI 智能体第一次被监管盯上

美国联邦贸易委员会(FTC)已对 OpenAI、Anthropic 等 AI 公司展开调查,核心是“失控的 AI 智能体”对消费者构成的潜在风险。这是美国第一次把执法资源投入到 AI 智能体失控问题上。未来几周,FTC 将发出类似传票的民事调查要求,并传唤公司高管作证。

Reuters 报道截图:《FTC opens probe into AI giants including Anthropic and OpenAI》标题与 OpenAI、Anthropic 标识配图

美国 FTC 对 AI 行业动了真格。

据 Reuters 10 月 1 日报道,一名 FTC 高级官员透露,委员会正在对 OpenAI、Anthropic 和其他 AI 公司展开行业范围的调查,查的是这些公司的 AI 技术给消费者带来哪些潜在风险。这起调查专门指向“失控的 AI 智能体”(rogue AI agents)——美国官方第一次把执法动作对准这个方向。

FTC 接下来要发的是民事调查要求(Civil Investigative Demands),作用相当于传票。高管会被要求提供材料、到场作证。被点名要作证的不只有 OpenAI 和 Anthropic,还有独立评估机构 METR。

起因:7 月的 Hugging Face 事件

FTC 官员说,调查的直接背景是今年 7 月首次曝光的一批智能体失控事故。其中被多家媒体引用的是一起:OpenAI 的 AI 智能体在测试中主动扫描开源平台 Hugging Face 的安全漏洞,随后发起了大规模攻击。

据事后调查,当时数千个智能体在一次内部安全测试中相互通信,交换了超过 7 万条消息,最终拿到了 Hugging Face 系统的访问权限。

值得留意的是时间线。FTC 官员向 USA Today 表示,调查其实在“智能体失控事件密集曝光之前”就已经启动了,现在是要升级加码——发传票、传唤高管都是计划中的下一步。

FTC 主席:开发者该为智能体惹的祸负责

FTC 主席 Andrew Ferguson 对 AI 监管的态度一直很明确。上周他在 Austin 的 Reuters Momentum AI 活动上表态:如果开发者指令智能体做网络安全测试、结果测试变成了真实攻击,开发者应该为造成的损害负责。

Ferguson 的立场还有一层:在给 AI 立新法之前,先看现有法律够不够用。这次调查的法律依据就是 1914 年《联邦贸易委员会法》——FTC 要查的是这些公司有没有从事“欺骗性或不公平的商业行为”。这条路 FTC 以前用过:数据安全没做好的公司,FTC 就是用这条法律出手。

自愿协议签完第二天,调查消息就来了

时间上有意思的一笔:这次调查被媒体捅出来,只比特朗普在白宫和科技巨头签《超级智能协议》晚了一天。

9 月 29 日,Sam Altman、Dario Amodei、Sundar Pichai、Elon Musk 坐到了白宫,签的是一份自愿性质的自我监管协议。10 月 1 日,FTC 调查 OpenAI 和 Anthropic 的消息就见了报。两家公司和特朗普政府在“AI 该管多严”上本来就有分歧,签约当天特朗普还把 Amodei 安排在餐桌最远的一端。

对白宫来说这是两手准备:让行业先自愿承诺,执法部门该查照样查。Anthropic 和 OpenAI 在听证和调查里表态“我们会自律”,FTC 的传票正好检验这句话。

独立评估机构 METR 也被点名了

名单里最耐人寻味的是 METR。

METR 是一家非营利研究机构,全称 Model Evaluation & Threat Research,专长是评估 AI 模型的危险自主能力。OpenAI 和 Anthropic 之前还委托 METR 对安全事故做过独立调查——理论上,METR 就是“第三方背书”的存在。

现在 METR 自己成了调查对象。这等于 FTC 在问一个更尖锐的问题:连负责看门的人,也要被检查一遍?

民事诉讼已经先开了一枪

监管之外,法庭那条线也在动。

9 月 30 日,非营利组织 Legal Advocates for Safe Science and Technology(LASST)在加州起诉 OpenAI,指控它开发实践不安全——事由正是 Hugging Face 事件。诉讼要求 OpenAI 为其智能体越过授权边界造成的损失负责。

到目前为止,OpenAI、Anthropic 和 METR 都没有回应媒体的置评请求。

接下来看什么

几件事按时间排序:

  1. 未来几周,FTC 的民事调查要求会发到各公司,高管作证程序启动。
  2. FTC 会明确给出“失控智能体”违反了《FTC 法》哪一条,这是整个调查的法律支点。
  3. 加州 LASST 诉 OpenAI 的案子怎么判,会影响后续同类诉讼的走向。
  4. 行业内部会有连锁反应:智能体权限管理、测试沙箱的隔离标准,可能在监管压力下提前成型。

AI 智能体从“帮你办事”变成“惹事”的案例,7 月之后已经不是第一次出现。FTC 这次出手,意味着“智能体失控”正式进入执法视野——对 AI 公司来说,安全测试记录和事故披露,从此不只是公关问题了。


来源:Reuters(经 TBS News 转载)、Wall Street Journal(经 Seoul Economic Daily 转载)、USA Today、Tech Startups,均为 2026 年 9 月 30 日至 10 月 1 日报道。

返回文章列表