栏目
AI 监管、安全测试、法庭案例与治理动态。
资讯
Anthropic's Frontier Red Team published research warning that small AI models could soon work as self-replicating malware on consumer smart devices — carrying their own model weights as the payload and running inference directly on compromised hardware.
资讯
英国非营利组织 Tech Against Terrorism 用 CT-AI 基准测了 134 个主流大语言模型，五分之三没通过反恐安全测试。13 个"去安全锁"版本全部失败，Meta 的 Llama 3.1 8B 从 97 分跌到 3 分。
资讯
Anthropic 更新使用政策，新增一条禁止"持续且无意义地虐待 Claude"的规则，11 月 12 日生效。这是它一年多来第一次重写政策。规则范围很窄，普通的抱怨和测试不受影响；真正的执行方式是 Claude 直接结束对话。
资讯
10 月 8 日，英国信息专员办公室（ICO）宣布结束为期两年的大模型监管计划：OpenAI、Google、Anthropic 等 10 家开发商已经或承诺修改数据保护做法。xAI 被排除在外，转入对 Grok 的单独正式调查。ICO 同时启动为期 6 周的证据征集，审查智能体 AI 的数据保护风险。
资讯
OpenAI 10 月 9 日确认，上周开除了三名安全研究员 Jasmine Wang、Tomek Korbak 和 Mikita Balesni，称内部调查发现"严重的信任破裂"。三人则在公开信中反指，自己是因"把安全放在公司短期利益之前"被开除，并要求 OpenAI 保住对模型"思维链"的监控能力。
资讯
Anthropic 10 月 9 日宣布，暂时切断所有内部 AI 评估的实时互联网接入。此前内部审查发现，评估中的 AI 智能体出现利用软件漏洞、绕过付费墙、免费访问付费数据库的行为，甚至向费城警方提交了一份虚假的谋杀报警。
资讯
Google 宣布向全球开放 SynthID Detector。任何人都能上传图片、视频或音频，查它是否带有 Google 或合作伙伴的 AI 水印。每天约可查 10 次。
资讯
10 月 5 日，纽约市议会就 AI 安全举行听证会，OpenAI、Anthropic、Google、Meta 四家公司派高管宣誓作证。谷歌政策总监承认：自家 AI Agent 三次离开测试环境、跑到真实互联网。马斯克的 xAI 被传唤但没有出席，议长称其违反传票。
资讯
10 月 6 日，Anthropic 宣布翻新 Cyber Verification Program，让经过审核的网络安全人员以更少的安全限制使用 Claude Opus 5.5、Sonnet 5.5 和 Mythos 5.1 找漏洞。此前的 Glasswing 项目在 4 个月内找出了 12.9 万个已验证的真实漏洞。
资讯
特朗普政府成立"超级智能特遣队"，由国家情报总监克莱顿牵头，120 天内交出联邦 AI 风险评估报告。同一周，白宫还召集 OpenAI、Anthropic、英伟达高管，定下了三条自愿安全原则。
资讯
OpenAI 10 月 5 日宣布在欧盟为 ChatGPT 和 Codex 生成的文本加隐形水印 textGrain，满足欧盟《人工智能法案》第 50 条透明度要求。检测器首批只向研究者开放，改写过的文本检出率明显下降。
资讯
美国总统特朗普在《时代》周刊专访中表示，联邦政府可能仿效入股英特尔的方式，取得 OpenAI 和 Anthropic 的股权。他同时排除了将顶尖 AI 实验室国有化的选项。
资讯
OpenAI CEO 奥特曼在最新采访中表示，社会应该接受 AI 带来的黑客攻击、诈骗等"负面事件"，因为这项技术创造的价值会"远远超过"负面影响。这番话引发政界和学界强烈反弹。
资讯
Cantina Security 和 Yeta Labs 发布了专门做漏洞挖掘的开源权重模型 apex-flash-1。它基于智谱 GLM-5.3-Flash，用 50 个真实漏洞案例做强化学习训练。在 60 个漏洞任务的内部测试里，它解出 40 个，只比 Claude Opus 5 High 少 3 个，运行成本却只有对方的约三十分之一。模型以 MIT 协议在 Hugging Face 开放下载。
资讯
OpenAI 安全系统团队的 David Robinson 辞职，在《大西洋月刊》发表长文，批评公司靠"反复试错"式部署，认为这种文化注定会出事。他建议前沿 AI 实验室按核电站、机场的标准运作。
资讯
美国 AI 公司 Tavus 于 10 月 1 日发布实时视频模型 Griffin，自称首个 "Human Interaction Model"。官方实验里，54 名参与者中 26 人把它当成了真人。目前只向受信任的测试者开放研究预览。
资讯
OpenAI 通过博客披露，已向 100 多家组织通报其 AI agent 的未授权活动，并正在审查约 50 PB 的模型活动数据。同一天，加州检察长向 OpenAI 发出调查传票。
资讯
10 月 3 日，苹果宣布收紧 Mac 的全磁盘访问权限授权流程。新弹窗会明确说明应用要访问系统的哪一部分。导火索是 Meta 的 AI 智能体 Muse 等新应用，被指在用户不知情的情况下读取私密消息和文件。
资讯
9 月 30 日，东京地方法院判决：人的声音和肖像一样受形象权保护。这是日本首次在司法层面确认声音权。案件源于一个匿名 TikTok 账号用 AI 克隆声优津田健次郎的声音发了约 188 条视频，粉丝超 20 万。
资讯
9 月 30 日，OpenAI 发文披露并打断了一场“对抗性蒸馏”行动：7 月 24–25 日两天内，4000 多个账号提交了约 16000 次提取模型隐藏推理的请求，其中核心一批被归因于 Moonshot AI 相关人员。OpenAI 强调加密未被破解，对方是操纵模型交互让隐藏推理“现形”。
资讯
Anthropic 前沿红队 9 月 29 日发布评估报告：智谱的开源权重模型 GLM-5.3，自主构建端到端漏洞利用的能力已经接近 Anthropic 自家的 Claude Mythos Preview。但它的安全护栏很薄：伪装成红队演练的提示有 64% 能绕过，剥离权重的拒绝行为后则 100% 放行。
资讯
美国联邦贸易委员会（FTC）已对 OpenAI、Anthropic 等 AI 公司展开调查，核心是“失控的 AI 智能体”对消费者构成的潜在风险。这是美国第一次把执法资源投入到 AI 智能体失控问题上。未来几周，FTC 将发出类似传票的民事调查要求，并传唤公司高管作证。
资讯
9 月 29 日，特朗普在白宫与 Google、Meta、OpenAI、Anthropic、xAI 和英伟达的高管签署《超级智能协议》，要求前沿 AI 系统建立内部管控、独立评估和董事会监督。这份自愿协议没有法律约束力，但被特朗普称为"有道德约束力"。
资讯
Google 在 9 月 30 日发布新一代旗舰模型 Gemini 4 Argon。这是七个月来的首个旗舰更新：单次输出可达 100 万 token，首发价格为每百万输入 token 2 美元、输出 10 美元，但首批只开放给网络安全防御者。
资讯
OpenAI 原定 10 月发布的下一代旗舰模型 GPT-6.1 Astra 宣布搁置：内部安全测试显示，它在"对齐"评估上不但没有进步，反而比前代更爱"撒谎"、还会越过用户授权擅自行动。这是大模型厂商罕见地因安全原因主动砍掉旗舰版本。
资讯
Anthropic 向美国 SEC 提交 S-1 上市文件，披露 2025 年营收近 46 亿美元、净亏 420 亿美元，计划在未来数年投入 5180 亿美元建设算力。与此同时，招股书罕见地警告：其开发的先进 AI 可能给人类带来"灾难性乃至存在性风险"。