OpenRouter 的 AI 销售智能体 Rasp 如何为 5 人销售团队每月省下 600 小时
OpenRouter 基于 Ori 构建的 AI 销售智能体 Rasp,为其 5 人销售团队每月省回约 600 小时,成交周期缩短 34%,成交率提升 2.6 倍。Rasp 自主发送 93% 的首次触达邮件,多数线索在 60 秒内获得回复,每场 demo 的准备工作从 103 分钟降至 44 分钟。其成本约每天 30 美元,远低于被其取代的智能体此前的近 800 美元。
OpenRouter 基于 Ori 构建的 AI 销售智能体 Rasp,为其 5 人销售团队每月省回约 600 小时,成交周期缩短 34%,成交率提升 2.6 倍。Rasp 自主发送 93% 的首次触达邮件,多数线索在 60 秒内获得回复,每场 demo 的准备工作从 103 分钟降至 44 分钟。其成本约每天 30 美元,远低于被其取代的智能体此前的近 800 美元。
ElevenLabs 现已上线 OpenRouter,提供 9 个文本转语音模型和 2 个语音转文本模型,已有 OpenRouter 应用可直接调用 POST /api/v1/audio/speech 和 POST /api/v1/audio/transcriptions,无需单独的 ElevenLabs 套餐。
vLLM 团队与 Inferact 在 DeepSeek-V4.1-Flash 发布后三周内完成优化,在 SemiAnalysis AgentX 智能体服务基准上低并发提速 1.9 倍、150 TPS 约束下吞吐提升 5.3 倍。
推荐理由:原文逐项列出 vLLM 侧的系统优化与对应加速比,可据此判断长上下文智能体推理的部署成本走向。
PyTorch 博客详解了用于推荐系统 Table Batched Embedding(TBE)前向与反向的 FBTriton 内核设计,其 Triton 实现在这些负载上超过了原有 CUDA 内核。
NVIDIA Megatron Core 支持位级确定性(bitwise determinism)的大规模预训练,让训练过程更易调试、验证和可复现地恢复。在数千块 GPU 上训练万亿参数模型时,多种并行维度、低精度计算和分布式 checkpoint 会加大故障复现与修复验证的难度,位级确定性正是针对这一场景。
基于开源智能体系统 OpenClaw 与 Amazon Bedrock AgentCore 运行时,可搭建具备长期记忆的个人 AI 助手:AgentCore memory 将一次性对话转为持久知识,并用结构化元数据标记记忆以便按需检索。
NVIDIA DOCA GPUNetIO 让网络与数据搬运成为 GPU 直接控制的一等操作,而非由主机驱动的服务。当 CPU 介入每笔网络事务时,它会成为关键路径上的瓶颈,增加延迟并限制分布式应用的实时响应效率。
Sierra 推出合作伙伴生态系统,涵盖技术平台、云与前沿实验室市场以及咨询服务伙伴,让 Sierra 智能体安全接入联络中心、支付、电子健康记录、物业管理和计费系统。企业可通过主流云市场采购 Sierra,并借助咨询公司和系统集成商完成后端系统对接与内部团队过渡。
Modem 面向所有用户上线 Plain 集成,可在 Settings → Integrations → Plain 中连接,实时同步客户邮件、聊天消息和内部备注,通常几分钟内入库。
Together AI 正与 IBM、NVIDIA 合作扩展企业级 AI 推理能力,首批在 IBM Cloud 上部署大规模 NVIDIA B300 GPU 集群,并采用 NVIDIA Spectrum-X 以太网组网,这是 IBM Cloud 上首个此类专用大规模推理集群,Together AI 也是首个客户。
PyTorch 已将图像、视频、音频的解码与编码能力统一收敛到 TorchCodec,TorchVision 和 TorchAudio 中旧的 I/O API 已被弃用或移除,两者今后专注 transforms。
PyTorch 加速器集成工作组公布 2026 H1 进展,推出跨仓库 CI 中继(CRCR),在 pytorch/pytorch 的 PR 或提交触发后并行向下游仓库派发事件,结果数秒内汇入 hud.pytorch.org/crcr。
OpenRouter 发布对比文章,梳理 OpenAI、Anthropic、Google 及自家 openrouter:shell、openrouter:bash 四类服务端代码执行工具,模型在 API 请求内直接调用沙箱运行命令并取回输出。
推荐理由:对比四家服务端代码执行沙箱的能力、计费与安全边界,可据此判断自建还是托管。
Together AI 发布 Together Link,可将团队已在用的编码智能体接入其开源模型,官方称可降低超过 50% 的开销。该工具支持 Claude Code、Claude Desktop、Codex(ChatGPT 应用与 CLI)、OpenCode 和 Pi,设置与登录保持不变,一条命令即可安装并随时切回原生闭源模型。
推荐理由:官方给出接入命令、路由规则与按会话计费对比,可据此估算团队编码智能体的成本变化。
PyTorch 团队将 Helion 集成进 vLLM 的线性后端,用单一 GEMM 实现覆盖 Standard GEMM、Split-K 和 Swap-AB 三种变体,由按形状的自动调优选择最佳变体与配置。
PyTorch 发布 PyTorch Certified Associate(PTCA)认证学习路径,通过 Linux Foundation Education 将四个自定进度学习模块与 PTCA 认证考试打包为一个产品。
NVIDIA 将于 10 月 23 日通过 Acer、ASUS、Dell、Gigabyte、HP 和 MSI 发售 DGX Spark 64GB 配置,起售价 4,999 美元,保留 GB10 Grace Blackwell 超级芯片、DGX OS 和完整 NVIDIA AI 软件栈,支持最高 1000 亿参数模型在设备端运行。
推荐理由:原文给出 64GB 配置的定价、上市时间与双机集群扩展方式,可据此判断本地跑大模型的硬件门槛。
OpenRouter 发文对比 LangChain/LangGraph、CrewAI 与 OpenRouter 原生路由,指出多模型编排实为三层:工作流编排、模型路由与提供商路由。
OpenRouter 发布指南,介绍支持机器人采用"廉价优先"模型路由:常规 FAQ 交给小型廉价模型,难例或不确定请求再升级到更强模型。三种应用侧模式为静态规则、分类器分诊和带置信度阈值的答案检查。OpenRouter 的 Auto Router("model": "openrouter/auto")可按任务类型选初始模型,models 数组提供错误回退,但支持政策验收检查仍需应用自己负责。
OpenRouter 上线 Model Router Benchmarks 页面,从质量、速度、成本三个维度对 Auto Router、Unbiased Pareto。
OpenRouter 发布六大 Agent 框架工具调用 Schema 处理对比,指出 OpenAI、Anthropic、Google 各自使用不同的工具定义与返回格式,为一个提供商写的工具定义无法原样用于另一个。
OpenAI 的 GPT-6 Astra Ultrafast 已在 OpenAI API 上线,并向符合条件的 ChatGPT Work 和 Codex 用户开放,运行在 NVIDIA Blackwell GPU 上。
推荐理由:原文给出 Astra Ultrafast 相对标准模式的提速幅度与开放入口,读者可据此判断它对编码智能体循环的实际影响。
Meta 用 TLX(Triton Low-level Extensions)为 NVIDIA Blackwell(B200)重写了 GEM 广告模型背后的 Jagged Flash Attention 内核,代码约 3.2K 行,比 FA4 的约 10K 行 CuteDSL 少约 3 倍。
Comfy 发布 Comfy Agent,现已在 Comfy Cloud 面向所有人开放,几周内将进入 Comfy Desktop。它位于 ComfyUI 内,能规划并评估技术方案、搭建工作流、修复错误、查找素材和处理技术术语,支持公开或私有技能、最多 5 个并行对话并保留完整历史。
推荐理由:官方披露了 Comfy Agent 在 ComfyUI 内的能力边界与后续本地化计划,可据此判断工作流搭建方式的变化。
NVIDIA 提出 AI 工厂投资回报取决于三个要素:每兆瓦产出能力、硬件使用寿命和 token 需求,三者相互关联。SemiAnalysis AgentX 数据显示,Vera Rubin NVL72 每兆瓦吞吐量比 GB300 NVL72 高 30 倍以上,在 DeepSeek V4 Pro 上每百万 token 成本低至 45 倍。
OpenRouter 发布指南,介绍用置信度阈值做模型升级路由:让模型通过 structured outputs 返回 0 到 1 的数值置信度字段,低于阈值的请求再转给更强的模型。
推荐理由:OpenRouter 给出用置信度分数做模型升级路由的完整五步流程,可迁移到自己的推理成本控制中。
Comfy 宣布 Comfy API 正式上线,付费 Comfy 套餐用户可把 ComfyUI 工作流打包成自动扩缩的 API 端点。Build 会记录工作流所需的 ComfyUI 版本、自定义节点、模型和 Python 依赖,再切出不可变 release 部署为独立 URL 的托管端点,测试环境与线上环境一致。
推荐理由:Comfy API 把 ComfyUI 工作流连同自定义节点、模型和依赖打包成可自动扩缩的端点,读者可据此判断自建部署与托管方案的取舍。
微软研究院实习生开发了一套端到端机器学习流水线,利用 L1 太阳风观测、AE 与 Dst 指数预报及变电站地质电导率数据,为美国本土 66,935 座变电站生成 30-60 分钟提前量的位置级空间天气风险估计。
vLLM 官方博客发布分离式服务实践指南,介绍如何把 Prefill、Decode 和 tokenization/解析等 CPU 工作拆成独立层级,需 vLLM v0.30.0 或更高版本。
推荐理由:vLLM 官方拆解分离式服务的四层架构,给出实测数据与配置命令,可据此判断是否值得拆分。
GitHub Copilot 提出,聊天框在多数场景下是错误的 AI 交互界面,应改用 canvas——一种运行在 GitHub Copilot 应用内、无浏览器外壳的全栈应用,可与 agent 双向通信并在本地执行代码。文中演示了用 canvas 构建 Connect 4 游戏、Winget 包管理界面和 SQLite 数据库操作界面,并称用 agent 构建工具比反复对话更省 token。
vLLM 现已支持基于 Gumbel-max 算法的无失真文本水印,并集成到 Model Runner v2 的采样管线中,同时兼容投机解码。实现将伪随机数生成、Gumbel 变换与 argmax 归约融合进单个 GPU kernel,在 Qwen3.5-27B 上跨 batch size 1–256 的吞吐变化在 −1.1% 到 +2.0% 之间。
GitHub Copilot 应用重建了 pull request 视图,用一个 2,200 个文件、超百万行改动、400 多条行内评论的开源 PR 做压力测试。它把文档高度拆成确定性的代码几何与动态评论块两套体系:代码行高提前算好,评论高度按需测量并锚定到文件、行和侧,避免滚动跳动。
微软研究院对移动操作机器人工作负载做了系统性测量,发现把物理 AI 推理从机器人端侧 GPU 卸载到边缘或云端 GPU,能提升任务成功率、支持更大的模型并延长续航。
推荐理由:微软研究院系统测量了机器人端侧 GPU 推理的瓶颈,并给出把推理卸载到边缘或云端的开源工具链,可供机器人开发者参考。
Google Private AI Compute 团队公布新的服务端持久记忆能力,让 AI 助手在跨设备场景下保留上下文,同时维持端侧级别的隐私标准。该方案把数据封存在加密存储中,解密密钥仅保存在用户个人设备上,模型需要访问时通过端到端加密通道连接受硬件保护的 secure enclave,在隔离内存中临时解密、写入新上下文后立即重新加密。
推荐理由:Google 公开了 Private AI Compute 的持久化服务端记忆方案,读者可了解云端 AI 如何在保留跨设备上下文的同时维持端侧级隐私。
Comfy 在 Comfy Developer Platform 上线 Comfy Router,开发者只需集成一次即可调用前沿图像、视频、3D 和音频模型,首日接入 Seedance 2.5、MiniMax H3、Nano Banana Pro、GPT Image 2、Kling 和 Black Forest Labs。
推荐理由:原文给出统一调用多家前沿媒体模型的接口与按任务切换供应商的方式,可据此判断多模型工作流的接入成本。
基于 Qwen3.5 4B,用 37,840 条来自 MultiNLI、BoolQ、Banking77 等数据集的样本微调,训练成本约 17 美元、耗时约 25 分钟,即可得到一个输入状态与预设问题、输出分数或选项的分类模型。
Sierra 发布博客详解其 AI 智能体平台的透明度能力:用 Ghostwriter 以自然语言构建智能体,并在 Agent Studio 中查看和编辑其每一步动作、策略与人格设定。
MiniMax H3 视频 VAE 编码最高提速约 2.2 倍、解码提速约 1.4-2.7 倍,1344x768、129 帧的编解码往返从 24.3 秒降至 12.7 秒。
Together AI 发布 Rollout 功能,可在同一 endpoint 上把流量从源部署迁移到目标部署,提供金丝雀、蓝绿和滚动三种策略,并支持指标门禁、暂停、恢复、提升与取消。
推荐理由:原文给出金丝雀、蓝绿、滚动三种上线策略的完整机制与真实回滚演示,可迁移到自有推理服务的模型切换流程。
vllm-metal 发布,把 vLLM 的 V1 调度器、分页 KV 缓存和 OpenAI 兼容服务端带到 Apple Silicon,由 MLX 与 Metal 负责执行。
推荐理由:vllm-metal 把 vLLM 的调度与分页 KV 缓存搬到 Apple Silicon,并给出与 llama.cpp、oMLX 的并发对比数据。