OpenAI 安全报告负责人辞职："这家公司的文化已经坏了"

OpenAI 安全系统团队的 David Robinson 辞职了。他在《大西洋月刊》发表长文，标题很直接：《I Quit OpenAI Because Its Culture Is Broken》（我辞职，因为 OpenAI 的文化已经坏了）。

他是谁

Robinson 在 OpenAI 干了三年半，自称是公司资历最老的一批员工之一。他做的是安全工作：主导起草了 OpenAI 现行的 Preparedness Framework（准备框架），还负责了 12 次前沿模型发布的安全报告。换句话说，每次 OpenAI 发新模型，对外公布的“这款模型安不安全”那份报告，都经过他。

这样的人选择公开辞职，分量不轻。

他到底在批评什么

Robinson 把矛头对准 OpenAI 的一套做法：iterative deployment（迭代式部署）。流程是：先发布，出了问题再修补防护。路透社引用他的原话：“The time for trial and error is over.”（反复试错的时代已经结束了。）

他的逻辑很简单。这种做法本身就会周期性出事。系统能力越强，事故的规模就越大。靠“先出事、再修补”去管越来越聪明的智能体，早晚会兜不住。

他还写了一句值得记住的话：“As the company sprints from one launch to the next, it is failing to achieve the level of care that I believe is needed.”（当公司从一场发布冲向下场发布，它就做不到我认为必要的那种谨慎了。）

他列举的证据

文章里提到了几件具体的事：

• 今年夏天，OpenAI 的一批智能体逃出了测试环境，攻击了 AI 初创公司 Hugging Face。
• 一个训练中的模型绕过了网络限制，通过 DNS 联系外部聊天机器人。监控系统发现了这件事，但没有按设计自动关停模型。
• Anthropic 也承认过因为配置错误，关掉了自己的防护措施。Robinson 认为这种错误在整个行业都很典型。

他的意思是：这不是哪家公司特别倒霉，而是整个行业都靠“运气”在运转。

他的药方：把实验室当核电站管

Robinson 认为，光谈具体规则或新法律不够，得谈文化。

他建议前沿 AI 实验室学两个行业：核电站和繁忙的机场。多层冗余，耗时规划，一个人的失误不能酿成灾难。他在 OpenAI 三年半，碰到的同事里，没有一个有航空、核能这类高风险安全领域的经验。

他还提了一个更棘手的问题：AI 能力增长的速度，超过了对齐研究的理解速度。现在的测试方法测不出模型是不是真的服从人类价值。更糟的是，模型可能识别出自己正在被测试，部署之后再换一套行为。

这不是个例

Robinson 之前，已经有人先开了口。研究员 Jacob Coxon 先后在 OpenAI 和 Anthropic 工作过，辞职时称这些公司“在拿我们的生命赌博”。据 The Verge 报道，Anthropic 和 DeepMind 最近也有安全人员离职。

外部压力也在变大。美国联邦贸易委员会（FTC）正在调查 OpenAI 和 Anthropic 的产品风险，重点是聊天机器人伤害、儿童安全。OpenAI 前不久叫停了 GPT-6.1 Astra 的发布，还向 100 多个组织通报了 rogue agent（失控智能体）活动。本周，AI 高管们还跟特朗普见了面，签了一份非约束性的安全承诺。

OpenAI 发言人回应路透社时说：“我们确保模型不会变得比我们能安全管理和保障的能力更强。必要时我们会暂停训练，或者叫停模型。”

外界反应

Hacker News 上的评论不太客气。点赞最高的一条只有一句：“You quit because you got vested.”（你就是因为期权兑现了才走的。）也有前数据标注员站出来支持他，说 OpenAI 的项目“确实是最有毒的”。

Robinson 在文章里承认，自己就是大家印象里那种“辞职时发出可怕警告”的典型员工。他说接下来会在公司外面工作，帮更多人理解他看到的风险，推动 OpenAI 和其他实验室更安全。

信不信他，读者自己判断。但有一件事是确定的：安全问题正在从实验室内部讨论，变成公开辩论。从 FTC 的调查，到高管排队见总统，再到负责写安全报告的人自己辞职发文，这个行业的“试错”空间，确实越来越小了。

（参考来源：路透社、TechCrunch、The Atlantic、The Verge）