Scaledown 约束解码模型家族上线 OpenRouter

你已经把答案给了 LLM。那它为什么还要从头把它写出来？ 介绍一种新的 AI 模型架构：约束解码模型（CDMs） LLM 生来就是为了写作。大多数生产工作负载只需要一个答案：快速、一致且经济实惠。 CDM 每个都专为 1 项任务打造。它们只读取一次你的输入，并跳过让 LLM 变得缓慢且昂贵的逐 token 生成循环。 不只是一个决策模型，而是今天上线的 3 个 CDM 家族： • Classify：定义你的标签，并获得每个标签的校准概率 + 原因。用于路由、打标签和意图检测。 • Extract：用自然语言描述实体，并获得格式良好的 JSON，附带置信度分数 + 引用。用于网页抓取、文档处理和 PII 脱敏。 • Summarize：传入长文本、图片或 PDF，并获得 1,000 tokens 以内的一致摘要。用于上下文压缩、元数据生成和转录摘要。 为生产而打造： • 1M tokens 的多模态（文本 + 图片）输入，比 Jev 大 31 倍 • DecisionBench 上 77.2%，而 Jev 为 72% • 比前沿 LLM API 快 200 倍，便宜 467 倍 • $0.05/M 输入 tokens。输出免费（是的，甚至包括 summarize） 今天已在您喜爱的平台上上线： @OpenRouter @vercel_dev @LiteLLM @LangChain @TrustedRouter @itsArthurAI @useRouterPlus 在下方链接免费获取 50M 输入 tokens（前 50 小时）👀