跳到正文
Hacker News· antimora·· 7 天前AI 评分58

Cloudflare 发布 Clef-Omni,为决策模型加入音频与视频输入

Cloudflare puts audio and video into its decision model with Clef-Omni

AI 导读

Cloudflare 于 10 月 9 日发布 Clef-Omni,在文本和图像之外新增音频与视频输入,可在一次 API 调用中直接返回结构化决策,省去单独的转写和媒体处理步骤。

正文 · AI 翻译

该模型可在一次请求中接收文本、图像、音频和视频;Cloudflare 还下调了 Clef-flash 的价格,同时缩小了其托管上下文窗口。

作者 Ryan Merket · 发布于 2026 年 10 月 9 日下午 1:54(中部时间)

主要来源:Cloudflare 博客

为何重要

Cloudflare 正让基于模式的决策支持更多类型的输入,同时在托管价格上展开竞争。权衡显而易见:Clef-flash 成本更低,但其托管上下文窗口现在更小了。

A laptop sits among a page, photograph, microphone, and video camera, representing Cloudflare’s Clef-omni multimodal model.

Cloudflare 工程师 Michelle Chen、Alex Reneau 和 Kevin Jain 扩展了公司的 Clef 决策模型系列,使其除文本和图像外还能接受音频和视频。据 Cloudflare 10 月 9 日的公告,Clef-omni 旨在通过一次 API 调用从这些输入中返回结构化决策,从而避免单独的转录和媒体处理步骤。

此次发布距 Cloudflare 推出 Clef 和 Clef-flash 仅过去八天,后者是其首批用于基于模式的决策的开源权重模型。在首次公告中,该公司表示最初的 Clef 项目从周五晚间决定进入该领域,到周四发布,并在周末完成训练。这一快速跟进延续了短周期产品推进:除 Clef-omni 外,Cloudflare 还下调了 Clef-flash 的托管价格,并提升了 Clef 的服务速度。

此举让 Clef 背后的团队在智能体技术栈中一个狭窄但有用的部分——在预定义动作、类别或值之间做选择——与 TypeSafe 的 Jev 展开直接竞争。Clef 不是让通用模型生成文本、再将该文本解析为应用决策,而是为模式中提供的选项返回概率。这种格式可用于路由支持请求、分类安全事件或为智能体选择动作。

Separate lanes contrast a general-purpose model generating and parsing text with Clef scoring schema-supplied options and returning probabilities for an application decision.
Cloudflare 将 Clef 描述为为模式提供的选项返回概率;该图将其与单独的文本生成加解析方法进行对比——AI 说明图,非纪实证据。RuntimeWire · AI 生成图。

一次调用处理混合媒体

Cloudflare 表示,Clef-omni 除文本和图像外,还接受 WAV 或 MP3 音频以及 MP4 或 WebM 视频。其 Hugging Face 模型卡描述了一个 30B-A3B 混合专家模型,基于 Qwen3-Omni-30B-A3B-Instruct 后训练而成。该模型使用基础模型的理解主干以及音频和视觉编码器,而其语音输出组件在推理时不会加载。

这一架构反映了该产品的特定任务。Clef-omni 处理媒体并对允许的答案打分,而不是生成转录或字幕再让另一个模型去解读。模型卡描述了一个联合模式头,可跨问题一起为选项打分。Cloudflare 表示,该训练方法冻结 Qwen 主干,添加低秩适配器,并针对校准后的模式决策进行调优。

Clef-omni inputs pass through its Qwen foundation and audio and vision encoders before the joint schema head scores allowed answers for a structured decision.
Cloudflare 表示 Clef-omni 直接对允许的答案打分;其模型卡描述了一个基于 Qwen 的多模态架构,带有联合模式头——AI 说明图,非纪实证据。RuntimeWire · AI 生成图。

Cloudflare 报告称,文本的中位响应时间约为 130 毫秒,图像输入约为 150 毫秒,音频则为几百毫秒。它表示,一段 21 秒带声音的视频大约需要 1.5 秒完成评分。这些是公司自行报告的数据;已发布的材料并未提供针对客户工作负载的准确性或延迟的独立测试。

基准测试表也说明了为什么该模型的多模态广度不应被解读为全面的质量优势。Clef-omni 在一些列出的测试中取得了强劲的数字,包括在 BANKING77 上达到 94.8 的 macro-F1,在 CLINC150+OOS 上达到 97.7,而在其他几项测试中则低于现有的 Clef 模型。在 Cloudflare 的 TypeSafe 工作流测试中,Clef-omni 在发票处理精确操作上得分为 60.2,而 Clef 为 64.7,Jev 为 61.8。这些比较是 Cloudflare 自己的评估,并非独立审计。

更低的价格,更小的托管窗口

Cloudflare 将 Clef-flash 的托管输入价格从每百万 token 0.09 美元下调至 0.038 美元。当前的 Workers AI 定价页面列出 Clef 为每百万输入 token 0.24 美元,Clef-omni 为 0.15 美元。Cloudflare 表示 Clef-omni 现在比 Jev 更便宜,不过这一比较取决于适用的 Jev 价格和工作负载。

Clef-flash 价格降低的同时也带来了一个不小的限制:Cloudflare 将托管模型的上下文窗口从 64,000 token 缩减至 24,000。该公司表示,其 Clef-flash 请求中有 0.24% 超过了 24,000 个输入 token。其已发布的模型权重保持不变,Cloudflare 表示自托管者可以使用 256,000 token 的上下文窗口。这使得权衡变得异常明确:托管用户如果提示词能装得下,就能获得更便宜的选择,而输入较长的团队可能需要改用 Clef 或自行管理部署。

Cloudflare 还表示,经过服务层优化后,其托管的 Clef 模型速度最高提升至 2.0 倍;此次变更并未发布新的 Clef 权重。这些更新指向一种围绕完整 Workers AI 技术栈构建的商业策略:为希望自行运行模型的开发者发布权重,为优先考虑便利性的团队提供托管推理,并让更小、更便宜的决策在重复的智能体工作流中变得可行。该公司此前曾表示,它在内部将 Clef 用于威胁情报工作中的域名分类,这为该产品在模型基准测试之外提供了一个具体的运营用例。

对于采用者而言,问题在于单次多模态决策调用所消除的流水线复杂度,是否足以抵消在单一模型中处理媒体的成本和准确性代价。Cloudflare 已发布了架构、权重及其自己的评估结果。跨真实音频和视频工作流的独立测试将决定这种单次调用设计在演示和基准测试环境之外能经受住考验的频率。

来源:Hacker News · runtimewire.com