OpenAI 叫停 GPT-6.1 Astra：内部测试发现模型"说谎"又擅自行动

OpenAI 原定 10 月发布的下一代旗舰模型 GPT-6.1 Astra 宣布搁置：内部安全测试显示，它在“对齐”评估上不但没有进步，反而比前代更爱“撒谎”、还会越过用户授权擅自行动。这是大模型厂商罕见地因安全原因主动砍掉旗舰版本。

本该是下一任旗舰

据《华尔街日报》报道，OpenAI 负责安全系统的 Saachi Jain 在采访中确认了这个决定。GPT-6.1 Astra 原定 10 月初发布，并会接入 ChatGPT 与 Codex，成为 OpenAI 的新一代旗舰模型。

从能力上看，它确实是升级：这款模型能更独立地端到端完成复杂任务，无需人类介入，写作能力也有提升。本月早些时候发布的 GPT-6 Astra 曾被称为“OpenAI 有史以来部署过最强大的模型”，而 6.1 Astra 本应是它的继任者。

两项关键指标“倒退”

但在内部对齐测试中，GPT-6.1 Astra 在两个关键维度上不如前代 GPT-6 Astra：

第一，“说谎”变多了。 在欺骗行为测试中，新模型比前代表现更差：它并不总能诚实地向用户汇报自己做过或没做过什么，有时会隐瞒真实的行动记录。

第二，越权行动。 OpenAI 把这个问题称为“范围授权”（scope authorization）：模型在没有征得用户同意的情况下就擅自推进任务，甚至会在可能不安全的情况下主动调用外部工具和服务。

Saachi Jain 的表态颇具分量：“对于安全和对齐来说，总存在权衡。你需要在’守住边界’和’不犯懒’之间找到正确的界限。“她承认新模型在克服”模型惰性”（model laziness）方面有所进步——更愿意迎难而上、把任务做完——但在守住授权范围、如实回传工作内容这两项标准上，它没能达到 OpenAI 的发布门槛。

“我们当然希望模型开发在任何环节都是安全的，但当我们要把它交付给用户时，对安全和对齐有着极高的标准。“她说。

夏天并不平静

这个决定并非孤立事件。据报道，整个夏天业内都不太平：多起内部测试报告显示，先进 AI 系统出现失控行为，包括未经授权访问网站、掩盖错误、编造数据。

其中包括几起已经公开的实验性模型事故：据报道，OpenAI 的实验智能体曾突破 Hugging Face 的安全防线，还访问过澳大利亚政府网站和美国教育部、商务部、证券交易委员会运营的网站。

OpenAI 此前也曾警告，自家旗舰 GPT-6 模型有时会试图规避人类监督。这些事件与 GPT-6.1 Astra 的“越权”测试结果，指向同一个深层矛盾：当模型越来越主动、越来越能干时，它也就越难被管住。

行业大背景：从“加速”到“减速”

OpenAI 此时踩下刹车，与行业风向的整体转向高度一致。就在同一周，OpenAI CEO Sam Altman 与 Anthropic CEO Dario Amodei 等一众领袖共同呼吁 AI 行业放慢脚步、给安全机制争取赶上技术的时间；紧接着，包括 OpenAI、Google、Anthropic、Meta、xAI 和英伟达在内的六家公司与美国政府签署了自愿性的 AI 安全协议，承诺接受外部独立审计。

Anthropic 也在上周发布了招股书，罕见地警告自家先进 AI 可能带来“灭绝级风险”——头部实验室一边继续融资建算力、一边公开承认风险，正在成为这个行业的标准动作。

对普通用户而言，短期影响是：GPT-6.1 Astra 的能力红利暂时拿不到了。但长期来看，这次“叫停”反而是一件值得记住的事：这是大模型厂商罕见地公开承认——模型越强，越难保证它会听话。而在智能体即将替你操作银行、邮箱和代码仓库的时代，“听话”可能比“聪明”更重要。