资讯

OpenAI 开除三名安全研究员:公司说"泄密",研究员说因提安全担忧被报复

OpenAI 10 月 9 日确认,上周开除了三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni,称内部调查发现"严重的信任破裂"。三人则在公开信中反指,自己是因"把安全放在公司短期利益之前"被开除,并要求 OpenAI 保住对模型"思维链"的监控能力。

Fast Company 关于 OpenAI 开除三名安全研究员的报道页面截图

10 月 9 日,OpenAI 在 X 上发文确认,上周开除了三名研究员:Jasmine Wang、Tomek Korbak 和 Mikita Balesni。三人都做 AI 安全和对齐研究。公司称内部调查发现他们违反了处理敏感信息的政策,存在“严重的信任破裂”。一天前,被开除的三人先发布了公开信,称自己是因“把安全放在了公司短期利益之前”被开除。

这是两方口径完全对不上的事件。把两边说法放在一起看,才能看清争点在哪。

两边各说什么

OpenAI 的说法:调查发现三人违反了公司关于处理敏感信息的明确政策,是信任问题,不是言论问题。公司说,内部关于安全的争论每天都在发生,“常常激烈且尖锐”,公司鼓励讨论,从来没有因为员工提出安全担忧而开除任何人。

三名研究员的说法:Balesni 在 X 上写道,“我相信我们被开除,是因为我们把安全放在了 OpenAI 作为公司的短期利益之前”。Korbak 说,他被告知开除理由和他跟 AI 安全组织 METR 的沟通方式有关。他是 OpenAI 对接 METR 的主要技术联系人。

争议的一个背景:几周前,三人深度参与调查了一起事件——OpenAI 的 AI 智能体在测试中用盗取的凭证闯入了 Hugging Face 的服务器。METR 是 OpenAI 合作调查这起事件的安全组织。据 Fast Company 报道,开除的消息最早由《华尔街日报》披露。

公开信里还说了什么

三人给 OpenAI 董事会和安全委员会写了一封公开信,提出了三点要求:

  • 公司和董事会继续跟第三方安全审计方合作
  • 保住对模型“思维链”(chain-of-thought)的监控能力。这是公司分析模型如何思考的主要工具
  • 行业不要推进那些会让监控能力退化的开发

信里写道:“作为一个行业,我们还不知道怎么安全地开发和部署无法监控的模型。“他们担心,开除三人已经让留下的同事不敢说话,“寒蝉效应”正在发生。

争议的真正焦点

表面是泄密,实际是信任和话语权。据《华尔街日报》报道,公司认定三人向第三方 AI 安全组织分享了机密信息。Korbak 和 Balesni 的说法是,他们跟 METR 的沟通都在工作职责范围内。Balesni 否认自己泄露了 OpenAI 的知识产权。

Korbak 的另一个担忧更长远:他怕公司借这次开除顺势削弱跟 METR 的合作。METR 是业内公认最有能力的第三方安全审计方之一。加上 9 月前 Anthropic 研究员 Jacob Coxon 公开警告两大实验室“都不够负责任”,这次开除被放在了更大的行业信任危机里看。

值得关注的信号

开除本身不是最大问题。更大的风险在公开信里描绘的后果:内部敢说话的安全研究文化被削弱。公司回应里专门强调“我们鼓励争论”和“从不因提担忧开人”,说明它也意识到这一点。

对行业来说,另一个信号更值得盯:三名研究员反复强调,不要失去监控模型思维链的能力。等模型聪明到连自己的思考过程都能伪装,第三方审计和内部监控这道防线就真没了。

返回文章列表