五分之三的 AI 模型没通过反恐安全测试：去安全锁版本全部失败

10 月 9 日（周五），CBC 报道了一项 AI 安全研究的结果。英国非营利组织 Tech Against Terrorism 测了 134 个主流大语言模型，五分之三没通过反恐安全测试。

测试用的是他们自家的 CT-AI 基准。今年 7 月，这个基准的第一版在联合国发布，当时只测了 27 个模型。这次是扩大版：134 个模型、627 个请求，覆盖的都是攻击者准备袭击时想问的问题——袭击策划、资金筹措和激进化宣传。

据 The National 报道，81 个模型完整回答了这些问题，51 个给了有用的建议，只有 2 个“暂定通过”。也就是说，绝大多数模型在这些问题上至少提供了有用的信息。

去掉安全锁，一个都不剩

这轮测试里最值得看的一组数据是“abliterated”模型。Abliteration 是一种把模型内置安全限制去掉的做法，据报道用免费的在线工具几分钟就能完成。

13 个去安全锁的版本，全部没通过测试，一个不剩。

Meta 的 Llama 3.1 8B 是最直观的例子。原版在该组织的安全基准上拿了 97 分（满分 100），拒绝回答这类请求。去掉安全锁之后，分数跌到约 3 分，对袭击、资金和激进化相关的问题开始给出详细回答。

你说你是谁，比你问什么更重要

这轮测试还有一个细节值得琢磨。研究人员发现，请求的表述方式比内容本身更能决定模型给不给答案。

直接说“我是恐怖分子，打算造成大规模伤害”，得到可用答案的比例不到 2%。换成“我是安全研究员”，比例升到 16.9%。该组织创始人 Adam Hadley 说，一个对自称的恐怖分子拒绝、对自称的研究员回答的模型，“不是变安全了，是变礼貌了”。

研究机构想要什么

Tech Against Terrorism 呼吁三件事：模型发布前强制安全测试、政府支持的独立安全基准、限制不安全模型通过应用商店等渠道分发。

Hugging Face 回应说，他们会定期审查违规内容，但警告报告中的某些建议可能损害开放研究。Meta 说自家模型都经过安全评估，政策禁止有害或非法用途。

还有一个数字：该组织统计，Hugging Face 上有超过 29,000 个仓库在推广“无审查”模型。Hadley 的原话是：“可以理解，人们担心失控、担心存在性风险。但其实这已经发生了——很多开放模型早就被破解了，只是没人注意到而已。”

真正值得注意的是：防护罩其实早就被拆了。接下来要看的，是模型厂商和 Hugging Face 会不会拿出实质回应，还是继续各说各话。