语言模型能控制自己的注意力:Declarative Attention 让模型在思维链中声明关注范围
研究者提出 Declarative Attention(DA),让模型在思维链中主动声明需要关注的上下文区域,推理引擎像解析工具调用一样跳过大部分 KV cache 读取。
研究者提出 Declarative Attention(DA),让模型在思维链中主动声明需要关注的上下文区域,推理引擎像解析工具调用一样跳过大部分 KV cache 读取。
DataKernelBench 将 SQL 转换为经校验的 PyTorch TorchPlan 程序,评测 LLM 用 CUDA 或 Triton 优化数据库查询内核。
研究者提出免训练缓存方法 Archer,通过在每个更新步重算可变回复、仅在有限回复状态邻域内复用 prompt 的 K/V,实现扩散语言模型的高效回滚。在代码生成基准上,Archer 取得 33.63% 的最佳平均性能与 2.57x 平均加速,单基准最高 2.95x;在非代码基准上相对 LLaDA-Confidence 最高加速 4.33x 并提升平均准确率。代码已公开。
PriorityFEC 是一种面向边缘多智能体 LLM 系统的 KV-Cache 交接方案,通过将高价值 KV 块前置并按接收端反馈调度修复包,在 TTFT 截止时间前保护最有价值的 KV 信息。该方案在分布式边缘 LLM 服务原型上以 Qwen2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 评测,任务质量优于对比传输方案,且在截止时间约束严格时优势更明显。
研究者提出“HOW TO TRAIN YOUR LITTLE DRAGON”训练方法,让 8B 参数小模型直接生成 GPU 优化脚本而非 kernel 代码,并基于 TVM MetaSchedule 在 54,116 个负载上构建 108,594 条训练样本。
LEASH 是一个免训练框架,通过弱模型的潜在不确定性信号决定何时将控制权交给强模型,并在交接后持续监督强黑盒智能体。在 OSWorld 上,LEASH 在匹配升级率下比随机升级高出 6.55–11.94 分;搭配 Qwen3.5-35B-A3B 时任务成功率达 73.66%,每任务成本 $0.4117,与始终在线的 Claude Opus 5(72.90%)持平,推理成本降低 19.2%。
研究者提出一种无需真实标注监督的弱到强路由方法,通过模型间分歧信号决定何时将小模型响应路由至更强模型。该方法先刻画最优路由策略,再基于模型间比较推导出有原则的近似方案,且强模型越接近真实分布近似越准确。在智能体与单轮任务中,该方法无需真实标注即可平衡路由成本与响应准确率,即使有真实正确性信号用于训练,基于分歧的路由仍可超越直接预测正确性的方法。
CascadeLedger 是一个面向预算受限语言模型级联的反事实执行审计框架,通过调用先于读取语义、服务与缓存身份绑定及事件轨迹冻结,判定聚合等价轨迹有效性。其两层审计在冻结缓存、独立生成与服务评估中实现 0.0000 假阳性率,检出 0.9983 的序列化故障与 0.9982 的未记录隐藏读取故障,并在确定性重算后改变 0.3403 的受损质量-资源结论。
DropKV 是一种基于解耦残差输出扰动(Decoupled Residual-Output Perturbation)的 KV-Cache 淘汰框架,通过将联合淘汰决策拆分为独立的逐 token 打分,绕开 NP-hard 组合难题,并在锥条件下提供可证明的常数因子近似保证。
研究者提出 FAOP(Functional Agent Operating Procedures)形式化理论,将 AI 智能体工作流重构为基于作用域状态的类型化函数,并定义四级渐进范式:分解(FNF-1)、类型化(FNF-2)、因子化(FNF-3)与作用域化(FNF-4)。
针对多变异体混合语料造成的“变体碎片化”问题,研究者基于 70,000 对多变异体数据,将 mT5-large 专精化到墨西哥 Santa Ana Tlacotenco 所说的 Nawatl 变体 Masewalkopa(nhn)。
LoopAhead 是一个面向 Looped Transformer 的推测解码框架,通过轻量级前瞻草稿器(LAD)利用早期循环状态预测多个未来 token,并由深层循环反馈决定草稿分支的继续或暂停,最终由全深度模型做 token 决策。该方法在保持目标模型输出分布的同时,实现最高 7.82 倍的解码加速。
SpecAgent 是一种协作协议,让弱模型在只读工具调用中起草步骤、强模型通过单次 prefill 并行验证并提交最长语义有效前缀,从而把强模型从每步生成者变为审校者。
HyCo 将服务器模型原生多 token 预测(MTP)头的深度草拟放到设备端执行,替代分支则交给一次 SLM 前向,服务器只返回该头所需的隐藏状态、输入嵌入和 KV 条目。
DPA-MoE 是一个让路由专家支持任意精度的运行时精度控制框架,通过 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的 chunk,并利用实时 router gate 分数在推理时分配 chunk,使单个编码后的 MoE checkpoint 无需重训练或重新编码即可在多种有效权重预算下运行。
研究者提出混合生成-标注解码架构,将标注源文本片段与开放式生成结合:可复制的常见属性值由标注头直接从源文本抽取,生成头则专注标注标签空间外的稀有属性和需重格式化或归一化的非可复制值。该解码器集成进 vLLM 推理后,属性覆盖率提升 10%,正确属性值对多提取 63%,精度无损,延迟降低 44%。
研究测试了 14 个商用大语言模型部署(来自 3 家提供商的 7 个模型、6 种调用路径),在各自接受的确定性采样设置下重复同一请求,每个部署都至少有一次返回不同评估结果,其中 12 个出现标签变化。
研究者提出 RAC,一种与 harness 无关的工程智能体动作与反馈层契约,由智能体决定工件应满足的关系,专用工具推导具体几何或时序结果。
AbridgeKV 将每段已生成文本压缩进少量学习型 pause token 的 KV 条目,从而释放原始 cache,让后续 token 改为关注这些 pause token。
DeepUnfolding-Agent 是一个基于 FastAPI 的 schema 驱动平台,将深度展开自适应控制以外部软件服务形式提供,使控制器逻辑与任务训练脚本解耦。
TeraAgent 是一款分布式智能体仿真引擎,可在 84,096 个 CPU 核心上模拟 5000 亿个智能体,规模达当前最先进平台 BioDynaMo 的 292 倍。它通过定制序列化机制与 delta 编码降低跨服务器数据传输,序列化中位加速 110x、反序列化 37x,单核智能体更新速率是 Biocellion 的 8 倍,原位可视化性能提升 39x。
Meta 提出智能体根因分析系统 Diviner,围绕 Encode、Execute、Evaluate、Adapt 四阶段可靠性生命周期运行,用经过审核的事件语料和服务负责人经验构建带版本范围的技能、工作流、类型化工具与事件知识图谱。
亚马逊CTO Werner Vogels在深圳交流中提醒,企业不会因为此刻没用上AI就立即倒闭,决策前应先让工程师和管理者了解技术能力。他以2004年数据库故障催生Dynamo、Nitro被动通信、Lambda的Firecracker与SnapStart为例,强调Agent需明确授权边界并由人负责。他还提到Kiro的跨会话记忆与规格说明驱动,并指出AI生成代码带来"验证债"。
范式智能联合睿思智联宣布一站式生产级 AI 部署平台模域(ModelSphere)正式上线,面向企业用户免费开源,并已在 GitHub 开源。平台将算力管理、模型部署和运行优化整合到统一平台,内置自动弹性扩缩容、PD 分离部署、三级 KV 缓存等能力,并融合 EngineX 推理引擎统一调度华为昇腾、天数智芯、摩尔线程、海光 DCU 等国产算力。
NVIDIA 宣布 RTX Spark 笔记本今日全球开售,由 ASUS、Dell、HP、Lenovo、Microsoft 和 MSI 推出,起售价 2,599 美元。
推荐理由:RTX Spark 把 128GB 统一内存和 1 petaflop FP4 算力放进轻薄 Windows 笔记本,可据此判断本地跑大模型与智能体的硬件门槛变化。
Tessl 工程团队用 Tessl Code Review 审查其单体仓库每周超 1200 个智能体编写的 PR,约 75% 的 PR 无需人工修正即可合并。该工具基于团队自有编码规范审查,发现的问题中 91% 为真实缺陷,高于此前 AI 审查工具的 68%,每个 PR 修复的真实 bug 数量翻倍(1.56 对 0.75),单 PR 审查成本降低 35%。
开发者分享在 AI 辅助开发下,传统 PR 评审已流于形式,转而采用多模型 Agent 交叉 Review 结合全量 E2E 测试的自动化合并流程。新流程利用 worktree 进行多分支并行开发,针对大功能由 2-3 个不同模型的 Agent 交叉 Review 并修复 P0-P1 级共性问题。
AgentScope Java 2.0 发布,定位为构建分布式、企业级智能体的生产可用框架,提供事件系统、权限系统、中间件、工作区与沙箱、多智能体编排和分布式部署等能力。
开源项目 Interactive LLM Powered NPCs 让玩家用麦克风与任意游戏 NPC 实时对话,无需修改游戏源码或制作 mod,而是直接替换游戏生成的面部像素来嵌入动画。
Liquid AI 发布决策模型 d1-ultra,可读取文本、图像或两者,对有界问题按概率作答,单次前向传播输出 0 个 token,现已在 Liquid API 上线,输入价格 $0.042/1M tokens。
文章提出「Agent-Native」软件设计理念,主张应用应在架构层让 AI Agent 与人类共享业务能力、数据和状态,而非让 AI 模仿用户操作 UI。其核心包含 Shared Actions、Shared Data 和 Shared Appl 三个层面,认为传统 AI 外挂模式效率低下。
作者分享了用 NewMax 快速构建 YouTube 转图文应用的实践:通过简单指令创建应用并迭代图文排版功能。该应用无需独立部署和接入模型,直接调用本地聚合网关 AI 能力,并利用连接器获取社媒内容,最终通过 Github 实现开源共享。
作者在中端硬件上本地部署 MiniMax H3 音视频大模型进行性能测试,147 秒完成一段高清视频渲染。
黄仁勋谈到英伟达的一大营收来源是软件授权:向企业按每块 GPU 每年收取大约几千美元,用于运行、保障和维护英伟达的 AI 软件。英伟达每年出货约 2000 万块 GPU,其中约 50% 流向企业,这构成一条巨大的经常性收入流。
2026 年 11 家主流大模型平台的免费 API 额度被整理成一份清单,逐项列出额度规模、覆盖模型、有效期与领取入口。清单覆盖阿里云百炼、百度智能云千帆、腾讯云混元、字节火山方舟、NVIDIA NIM、智谱 AI、硅基流动、Kimi 开放平台等平台,方便开发者在低成本前提下试用和选型。
GLM 5.3 Flash 现已在 OpenCode 中免费开放。
AltimateAI 开源数据工程工具层 altimate-code,提供 100+ 确定性工具,覆盖 SQL 分析、列级血缘、dbt、FinOps 与仓库连接,可独立在终端运行,也可挂在 Claude Code 或 Codex 之下。
cockpit-tools 是一款通用 AI IDE 账号管理工具,支持 Antigravity IDE、Codex、GitHub Copilot、Windsurf、Kiro、Cursor、Grok CLI、CodeBuddy、Qoder、Trae、Zed、ZCode 等 16 个平台,提供一键切号、配额监控、自动唤醒与应用多开并行运行。
Chat2DB Community 发布 5.4.0-beta.1 早期预览版,为 macOS、Windows、Linux 提供安装包,新增可选本地 Agent 运行时,支持技能、外部 MCP 服务器以及文件和终端工具,可在 AI 输入框的运行时选择器中选择 Pi Agent 启用。该版本既非稳定版也非常规 Beta 版,稳定版仍停留在最新构建,常规 Beta 线继续为 5.3.8-beta.x。
Meta 于 10 月 15 日发布开放权重模型 Muse Spark Open,扎克伯格发帖感谢苹果合作,称该模型能在新款 Mac Studio 上流畅运行,苹果 CEO Ternus 回复称在自己桌上跑起这种量级的模型「鹅妹子嘤」。