vLLM 推出 push 模式 NIXL KV 传输,TTFT 最高改善 3 倍
vLLM 发布基于 push 的 NIXL KV 传输连接器 NixlPushConnector,把传输协调与建立从解码实例的关键路径移到预填充侧的后台线程。
推荐理由:vLLM 官方给出 push 模式 KV 传输的架构与复现脚本,可对照 pull 模式判断是否切换部署。
vLLM 发布基于 push 的 NIXL KV 传输连接器 NixlPushConnector,把传输协调与建立从解码实例的关键路径移到预填充侧的后台线程。
推荐理由:vLLM 官方给出 push 模式 KV 传输的架构与复现脚本,可对照 pull 模式判断是否切换部署。
Higgsfield AI 推出动效设计工具 Higgsfield Katana,官方在 X 上邀请用户试用其进行动效设计。该工具定位为动效设计场景,具体功能与参数尚未披露。
Hugging Face 联创 Thomas Wolf 发布 nanoGPT 演示,称训练过程可直接在推文内完成,定位为 GPU 资源不足场景的形态。用户通过链接打开页面后点击 train 按钮即可启动训练。
Sakana AI 为 Sakana Chat 上线记忆可视化功能 My Fish,可查看聊天机器人记住了什么、记忆何时被调用以及记忆之间的关联。该功能基于 9 月更新引入的记忆能力,记忆默认开启,可在设置中随时关闭;30 天以上未使用的记忆节点会变淡,同一回复中共同出现的记忆以连线相连。My Fish 支持网页和移动端,入口为设置 → My Fish。
Krea AI 开放早期访问申请,主打快速、精准、可控。原文未披露具体模型版本、参数规模或可用性细节。
PixVerse 推出 PixLight 挑战活动,邀请用户立即加入。原文未披露活动规则、奖励或参与方式等具体信息。
Manus 正式推出 Manus for Teams 和 Enterprise,即 Manus for Business。Manus 表示,其团队从产品经理到市场团队都已真正成为 AI 原生,此次将内部经验融入产品。
Deezer 正在开发一个开关,让用户从搜索结果中过滤掉平台上 AI 生成的歌曲、专辑和相关艺人,该功能预计今年年底前上线。Deezer 称去年调查显示约 45% 的用户希望移除 AI 音乐,而今年 7 月其平台每日上传曲目中 AI 生成内容已超过 50%,日均约 90,000 首。
WorkBuddy 推出 WorkBuddy Library,将文档、表格、幻灯片、HTML 和 Markdown 集中在一处管理,让 AI 能从用户停下的地方继续,编辑已有内容并协作,保持工作流持续运转。官方强调的流程是创建、保存、编辑、复用。
HeyGen Voice 已上线 OpenRouter,10 月 31 日前 API 价格 5 折,为每百万字符 $15(原价 $30),折扣自动生效。该文本转语音模型登顶 Artificial Analysis TTS 排行榜,提供 HeyGen Voice 和低延迟的 HeyGen Voice Turbo 两种模式。
HeyGen Voice 已上线 OpenRouter,10 月 31 日前五折:HeyGen Voice 每百万字符 $15(原价 $30),HeyGen Voice Turbo 每百万字符 $7.50(原价 $15)。
OpenRouter 上线 HeyGen 语音功能,开箱即用可选 10 种声音,也可自带 HeyGen 密钥,使用自己 HeyGen 账户中克隆的声音。该功能归属 OpenRouter 语音与音频产品更新。
Google AI 展示了一个由 Argon 在 antigravity 中构建的交互式 5 阶段视觉图集,可将教科书生物学转化为浏览器中的动手体验。用户可从阳光下的叶片一路滚动深入到亚细胞叶绿体,该模型结合流畅动画与科学精确性,展示了构建复杂科学教育工具的方式。
SpaceXAI 的 TypeScript SDK 示例集 cookbook 已更新,包含 25 个示例。这些示例覆盖一句话前提生成短片、一张照片生成延时摄影、会说话的照片、产品图生成视频广告、视频配音、实时语音翻译等场景。
Grok Bot 支持在任意帖子下通过 @bot 调用,并会实际执行任务。常见用法包括让 bot 帮忙配置教程内容、调研是否值得、加入日历或 Notion、认领 bot 专属邮箱、总结帖子和设置提醒。该 bot 拥有自己的收件箱。
ElevenLabs 用自家 ElevenAgents 跑客服,每月解决超 22,000 张工单,响应时间从数小时缩短到 60 秒。团队把退款、账单变更、声音克隆咨询等各类工单的 SOP 转成智能体执行步骤,智能体还能查询客户信息、读取文本/截图/PDF、用客户语言回复、执行操作,必要时转交人工。
Zenzap 推出群聊式多智能体协作平台,让团队在群聊中运行多个 AI 智能体,每个智能体按项目、人员和工具范围划分,企业还可通过 API 接入自定义智能体。智能体在群聊中保留记忆并从人类对话中学习,持续优化上下文与行为方式,该公司将这一结果称为 Company Brain。用户可在 90 秒内创建智能体,早期访问计划已有数千个团队使用。
Perplexity Computer 现已面向所有人开放 /anatomy 技能,该技能最初由 @wheresryan22 构建。Perplexity CEO Aravind Srinivas 在 X 上公布了这一消息。
Cognition 宣布 Devin 可在 Pylon 上自动修复工单,以缩短平均修复时间(MTTF)。Pylon 上的 Devin 新客户可获得 15,000 美元额度用于起步,Cognition 还将举办网络研讨会进行实际演示。
NVIDIA 发布 CUDA-X 新库 cuPotential,供开发者构建模拟原子与分子相互作用的 AI 智能体,早期测试中让已 GPU 优化的流程再提速 2-3 倍。
Android 推出新的诈骗防御功能,其中 Google Messages 的“增强保护”设置将在未来几周内上线,调用云端 Gemini AI 模型快速判断陌生发件人对话中的诈骗意图。
Square 发布 Square Kiosk 自助点单终端,配备 21.5 英寸触摸屏和"智能体对话语音层",能理解商家菜单并实时响应,顾客可像与店员交谈一样提问、要求修改或替换菜品。该设备支持存在检测迎宾和感应/插卡支付,今日起以 1,999 美元面向 Square Plus 或 Premium 订阅商家发售,另收每台每月 99 美元软件费。
Simon Willison 为 llm-gemini 插件加入对 Gemini 4 Argon 的支持,该模型当天通过 Gemini API 和每月 100 美元订阅计划开放。
Vercel 的 AI Elements 组件库将于 2026 年 11 月底弃用,由 shadcn/ui 的 AI Elements 取代,新项目应改用 shadcn/ui 版本。
长亭科技(chaitin)在 GitHub 开源企业级 AI 开发平台 MonkeyCode,核心代码公开,采用 AGPL v3.0 许可。平台内置开发环境管理、AI 模型管理、AI 任务管理和项目需求管理,支持 GLM、Kimi、MiniMax、Qwen、DeepSeek 等模型,并提供云端开发环境、原生移动端支持和私有化离线部署。
在 ESUG 2026 上,Pulsar 作为一款面向 Pharo 的全新编码优先 IDE 被展示,强调编程工具应帮助程序员理解、导航和修改系统并始终贴近代码。作者认为,在生成式智能体时代,这种贴近代码的能力不是变得不重要,而是更加重要。Pulsar 目前仍处于开发中但已可用,演讲视频与幻灯片已上线。
Timescale 发布 PostgreSQL 扩展 pg_vectorsearch,提供 PRISM 索引用于高性能近似最近邻搜索,官方称在查询和索引构建上都快于 pgvector 的 IVFFlat 与 HNSW,在 1 亿向量数据集上以四分之一内存达到同等召回率。
Epic Games 预览发布新版 PC 游戏启动器,称其“快得多”并新增 Linux 支持,且该版本是“vibe coded”的。Epic 副总裁 Martin Keely 表示,AI 在测试和复刻旧启动器核心功能上“非常有帮助”,团队用智能体编写并审查了全部代码,但仍对整个过程进行监督。
Sakana AI 为 Sakana Chat 新增记忆可视化功能 My Fish,可查看聊天机器人记住了什么、记忆何时被调用以及记忆之间的关联。该功能提供热力图、分类总览、以鱼为中心的连接地图和读写时间线,30 天以上未使用的记忆会变淡,对话中调用记忆时还会显示提示标签。My Fish 已在 Web 和移动端上线,用户可在设置中随时关闭记忆功能。
美国初创公司 Artemis Security 发布 Orion-1,一款可自主调查并响应企业网络攻击的安全专用模型,在其自建基准上超过 Claude Opus 5.5 和 GPT-6 Sol。
Modem 本周从 modem.dev 迁至 modem.ai,旧链接自动重定向,同时发布重建语义可观测平台 Modem 2.0。新平台连接用户渠道、识别并归类用户关注点,并通过监控 PR 和工单追踪组织如何响应,官方称准确率和端到端性能均有提升。Modem 称其用户已从工程师扩展到创始人、PM、客户成功和销售等角色,现有用户使用方式不变。
Physical Intelligence 发布 Pi API Beta,开发者可上传数据、在其托管的算力与基础设施上微调 π 模型,并通过托管网关运行推理。该 API 已提供数据效率更高的微调能力,早期合作方覆盖从日本到瑞士及美国的多类部署场景,其中 Almond 团队用 API 迭代四天后让 Axol 双臂机器人完成去毛刺任务。
Cognee 更新其智能体记忆层,可在不配置 LLM 密钥的情况下用本地 GLiNER 模型抽取知识图谱、用本地嵌入模型完成检索,文本摄取、检索与会话存储均无需 LLM,依赖 LLM 的改进阶段会自动跳过。
Live Helper Chat 是一款开源在线客服应用,可免费为网站提供实时客服支持,生产环境已验证单日处理超 1 万次对话、数十名客服同时在线。它支持接入 ChatGPT、Ollama、Gemini、Rasa 等第三方 AI,并提供 Claude 或 ChatGPT 的 MCP 配置,同时集成 Telegram、WhatsApp、Discord 等渠道。
LunaBox 是一款开源游戏库管理工具,支持自定义分类、自动游玩时长统计,以及按日/周/月/年查看并导出统计卡片。其 AI 洞察功能可分析游玩数据生成个性化报告,并支持 MCP 暴露与 CLI 技能调用;数据可从 PotatoVN、Playnite、Vnite 和 Steam 导入,敏感数据全部本地存储。
Fud AI 是一款面向 iOS 和 Android 的开源、隐私优先卡路里追踪应用,支持自带 AI 提供商,包括 Gemini、OpenAI、Claude、Grok、Groq、Hugging Face、Fireworks AI、DeepInfra、Mistral 及任意 OpenAI 兼容端点,共 13 家。
OmniBot 是一款直接运行在 Android 设备上的端侧 AI 智能体应用,用原生 Kotlin 和 Flutter 构建,覆盖理解、决策、执行、反思的完整闭环。
Anthropic 构建了专用版本控制服务 Scion,通过不对称缓存和并行化读取,将大语言模型与源代码高效集成。其每日合并请求从 5 月底的 2500 次激增至 9 月初的超过 30000 次,主要来自 AI 智能体的大量小幅校准调整,高并发带来巨大 I/O 负载。
作者开发了一款自动拉黑插件,用于打击网络骚扰中的"伪人"账户,并承认过程中可能出现误伤。作者认为,即便误伤,大部分扰乱者也支付不起多次开号的费用,因此该插件仍能达到清洁社区的目的。
随着 AI Agent 数量增加,电脑中冗余 CLI 应用和临时文件日益增多,系统负担加重。作者推荐付费清理软件 Mole,称其能有效清理 Agent 工作空间产生的垃圾数据。