资讯

Cloudflare 开源 Clef:AI 模型不写字了,只负责“下决定”

Cloudflare 10 月 1 日发布决策模型 Clef 和 Clef-flash:不生成任何文本,只读输入、按三类固定问题输出概率。27B 精度版加 9B 延迟版,权重 Apache 2.0 开源,接口兼容 Typesafe 的 Jev。

Cloudflare Clef 发布的 Canva 品牌封面(深色科技风,主标题“Cloudflare 开源 Clef”,副标题“不写字的 AI 模型,只负责下决定”,右下角 Knowhy Lab 字样)

10 月 1 日,Cloudflare 发布了两款新模型 Clef 和 Clef-flash。这是 Cloudflare 的 Workers AI 团队第一次自己训练模型。它们最大的特点很反常识:不生成文本,只输出概率。

Cloudflare 把它们叫做“决策模型”(decision model)。它的工作方式跟聊天模型完全不同。你给它一段输入状态,再加一组你自己定义好的问题,它给每个允许的答案返回一个概率。你的代码拿到数字就能直接分支,不用解析任何文字。

怎么问,它就怎么答

Clef 支持三种提问类型:

  • noul:是非题,返回“是”的概率。比如“这条工单紧急吗”。
  • choice:多选一,返回每个选项的概率加一个置信度。比如“该由哪个团队接手”,选项是账单、技术或销售。
  • score:按你给的量表打分,返回按概率加权的分数。比如对用户提交的内容按自家风控量表评分。

一次请求最多带 64 个问题,还能附 4 张图片。视觉编码器是 Clef 有的、对手没有的:Typesafe 的 Jev 只读文本。例子很直白:客服工单进来,一次调用问清“紧急吗、谁接、严重程度”,后面的路由、拦截、转人工全是程序逻辑。

数字:延迟和准确率都不低

Cloudflare 的卖点就是快。它的模型跑在 Cloudflare 的边缘 GPU 上,离用户近,网络往返短。官方 43 次测试的中位数延迟:Clef 209.3 毫秒,Clef-flash 38.8 毫秒,Jev 524.1 毫秒。p95 下 Clef-flash 是 122.4 毫秒,Jev 536.0 毫秒。注意这是 Cloudflare 自己的测试数据,第三方还没复现过。

准确率方面,10 个决策基准里 Clef 有 7 个拿第一。分类任务 BANKING77 上 Clef 的 macro-F1 是 94.20,Jev 79.74。工具调用评测 BFCL 上 Clef-flash 的 case-exact 达到 98.76。在 Typesafe 自家的工作流评测里,发票处理、客服、安全事件 3 个场景 Clef 也赢了 Jev。训练数据没有公开,这是 The Register 指出的一点。

版本分工很清楚:Clef 是 27B 参数的精度版,Clef-flash 是 9B 参数的延迟版,两者上下文窗口都是 64K token。权重挂在 Hugging Face,Apache 2.0 协议,可以本地部署。Workers AI 上的托管价格:Clef 每百万输入 token 0.24 美元,Clef-flash 0.09 美元,输出不计费。

兼容 Jev,直接换 endpoint 就能用

Clef 用的 API 格式和 Jev 一样,Cloudflare 说这是“System One API”。已经接入 Jev 的项目,改 endpoint 和模型名就能切换。换句话说,Cloudflare 是瞄准 Jev 的用户直接开打的。

除此之外,Cloudflare 还同步推了一个 RL 微调服务:你可以用自己的请求数据微调 Clef 再重新部署。初期是跟 Cloudflare 的工程师团队一对一合作,后续会出自助版本,让你用自己的数据在 Cloudflare 的基础设施上完成微调和重新部署。Cloudflare 承诺,除非你主动加入这个微调服务,否则它不读、不存、不用你的请求数据训练。

这是一条新赛道

三周内,这是第三个公开的决策模型:Typesafe 9 月 15 日先发 Jev,OpenAI 9 月 29 日开了 Decisions API 的有限预览,Cloudflare 10 月 1 日跟进。同一天,亚马逊也推了个开源的 Strands Decider 2B。四家撞在同一周,说明这是一个被多方验证的新方向。

场景其实很具体。Agent 守卫(agent guardrails):智能体调用工具前,先花几十毫秒问模型“这步该不该做”,便宜又可审查。工单分诊、信任与安全评分、威胁情报分类,Cloudflare 自己的例子:域名分类任务配上 Browser Run,Clef 2.2 秒完成,同流程下通用模型 gpt-oss-120b 要 4.7 秒,标签还少。

本质上,这是把 LLM 的“慢思考”拆成了“快决策”。要推理的时候你继续调大模型,要拿一个数字做判断的时候,用 Clef 这种便宜、小、快的模型。智能体跑进生产环境之后,“能不能快而稳地做无数个小判断”成了刚需——这就是这波决策模型集体出货的原因。

返回文章列表