Tail-Replay：突破混合 LLM 前缀缓存中线性注意力的限制
Tail-Replay 是一种面向混合大语言模型的前缀缓存机制，通过只缓存全注意力 KV cache、省略循环状态检查点，在缓存命中时重放匹配前缀的短近期后缀来重建线性注意力状态，从而实现无约束的 token 级前缀复用。
#部署/工程
arXiv cs.AIAI 评分3232 arXiv cs.AIAI 评分6060 ANEForge：用 Python 直接调用 Apple Neural Engine
论文提出 ANEForge，一个无需 CoreML 即可直接编程 Apple Neural Engine 的 Python 包，将惰性张量图编译为单个 ANE 程序，并通过与 Apple 内部框架相同的 ANE daemon 和内核驱动栈派发。
arXiv cs.AIAI 评分3131 TensorDex：面向现代 AI 模型的紧凑张量中心存储系统
TensorDex 是一个无损、以张量为中心的存储系统，在张量粒度上做 delta 压缩，用紧凑的位级指纹预测张量对的可压缩性，并将张量增量组织成多中心聚类以选取有效基模型。
arXiv cs.AIAI 评分2222 RAG4Tickets：基于 JIRA 与 GitHub 数据的 RAG 工单解决框架
RAG4Tickets 提出一套 RAG 框架，用 Sentence-Transformers 做语义嵌入、FAISS 做向量检索，将历史 JIRA 工单、用户评论与关联 PR 元数据统一索引，再由 LLM 生成有依据、可解释的解决建议。该框架打通 JIRA 与 GitHub 数据，在精确率、召回率、解决时间缩短和开发者接受度等指标上显著提升了解题准确率与知识复用。
arXiv cs.AIAI 评分4040 Agent Gym：通过人在回路反馈持续评估与进化 LLM 智能体的框架
研究团队提出 Agent Gym，一个模块化、领域无关的框架，可将任意现有 LLM 智能体包裹进持续评估与进化循环，无需修改智能体源码即可在部署后修正行为。框架包含 Act、Evaluate、Investigate、Correct、Learn、Observe 六项可组合能力，核心技术为带 21 个条件算子和三级动作的确定性-LLM 混合修正引擎，以及三层调查架构。
arXiv cs.AIAI 评分2222 Mind the Delay：面向异构 LLM 池的延迟感知查询路由
研究者提出 Batch Evolution Aware（BEA）估计器，通过重放服务框架的 token-batch 形成过程预测首 token 延迟（TTFT），误差约 5%，单次预测耗时约 0.1 ms。基于 BEA 的延迟感知路由器 BEAR 同时平衡准确率、成本与延迟，在七项基线对比中，目标内响应效用平均提升 63%，较最佳基线提升 30.5%。
arXiv cs.AIAI 评分2828 TOPS：基于构建 Token 最优保留集的第一性原理视觉 Token 剪枝，加速 MLLM 推理
研究者提出免训练、模型无关的视觉 Token 剪枝模块 TOPS，从第一性原理将剪枝形式化为构建 Token 最优保留集，并归纳出任务相关性、信息覆盖与语义多样性三条原则。在 7 个 MLLM 骨干和 14 个基准上，TOPS 在多种剪枝设置下优于此前方法；在 LLaVA-NeXT 上剪除 77.8% 视觉 Token 后，7B 与 13B 模型性能分别保持 100.0% 和 100.6%。
arXiv cs.AIAI 评分3434 Harness-Bench：跨模型与真实工作流评估 Agent Harness
研究者推出 Harness-Bench，一个在真实 Agent 工作流中评估配置级 harness 效应的诊断基准，包含 106 个沙箱离线任务，在共享任务环境、预算和评测协议下对比多种模型后端与代表性 harness 配置。
arXiv cs.CLAI 评分3232 KV²：一种自精炼的 KV Cache 压缩方法
KV² 是一种查询无关的 KV cache 压缩方法，先用轻量代理打分器筛选上下文中的高信息量 token，再仅对这一子集重新处理以计算最终淘汰分数。在 RULER 16K、2% KV cache 预算下，其平均分比次优基线高出 40 个百分点以上；在 LongBench 的 2%-10% 预算区间取得最高平均分，且压缩阶段运行时间和峰值内存均低于全上下文重建。代码已开源。
arXiv cs.AIAI 评分3232 Agent Skill 框架：中小型语言模型在工业环境中的潜力研究
一项大规模实证研究评估了 Agent Skill 范式在 270M–80B 开源模型上的可行性，覆盖保险理赔分类与 Python 编程两类任务。结果显示极小模型常无法检索或选择正确技能，而 30B–80B 模型从技能增强中获益显著。研究还给出面向部署的 GPU 显存时间占用（GB·min）画像，揭示技能增强收益随模型规模、任务复杂度与 GPU 预算的变化。
arXiv cs.CLAI 评分4242 语言模型能控制自己的注意力：Declarative Attention 让模型在思维链中声明关注范围
研究者提出 Declarative Attention（DA），让模型在思维链中主动声明需要关注的上下文区域，推理引擎像解析工具调用一样跳过大部分 KV cache 读取。
arXiv cs.CLAI 评分3232 DataKernelBench：LLM 能否在 GPU 上优化数据库查询？
DataKernelBench 将 SQL 转换为经校验的 PyTorch TorchPlan 程序，评测 LLM 用 CUDA 或 Triton 优化数据库查询内核。
arXiv cs.CLAI 评分2424 Archer：为扩散语言模型高效回滚自适应复用缓存隐藏状态
研究者提出免训练缓存方法 Archer，通过在每个更新步重算可变回复、仅在有限回复状态邻域内复用 prompt 的 K/V，实现扩散语言模型的高效回滚。在代码生成基准上，Archer 取得 33.63% 的最佳平均性能与 2.57x 平均加速，单基准最高 2.95x；在非代码基准上相对 LLaDA-Confidence 最高加速 4.33x 并提升平均准确率。代码已公开。
arXiv cs.AIAI 评分2222 PriorityFEC：面向边缘多智能体系统 KV-Cache 交接的截止时间感知流式 FEC
PriorityFEC 是一种面向边缘多智能体 LLM 系统的 KV-Cache 交接方案，通过将高价值 KV 块前置并按接收端反馈调度修复包，在 TTFT 截止时间前保护最有价值的 KV 信息。该方案在分布式边缘 LLM 服务原型上以 Qwen2.5-7B-Instruct 和 Llama-3.1-8B-Instruct 评测，任务质量优于对比传输方案，且在截止时间约束严格时优势更明显。
arXiv cs.AIAI 评分3434 如何训练你的小龙：教小语言模型构建与优化 GPU 优化脚本
研究者提出“HOW TO TRAIN YOUR LITTLE DRAGON”训练方法，让 8B 参数小模型直接生成 GPU 优化脚本而非 kernel 代码，并基于 TVM MetaSchedule 在 54,116 个负载上构建 108,594 条训练样本。
arXiv cs.AIAI 评分3838 LEASH：面向计算机使用智能体的不确定性感知弱到强升级与监督框架
LEASH 是一个免训练框架，通过弱模型的潜在不确定性信号决定何时将控制权交给强模型，并在交接后持续监督强黑盒智能体。在 OSWorld 上，LEASH 在匹配升级率下比随机升级高出 6.55–11.94 分；搭配 Qwen3.5-35B-A3B 时任务成功率达 73.66%，每任务成本 $0.4117，与始终在线的 Claude Opus 5（72.90%）持平，推理成本降低 19.2%。
arXiv cs.AIAI 评分2929 基于模型分歧的弱到强路由方法
研究者提出一种无需真实标注监督的弱到强路由方法，通过模型间分歧信号决定何时将小模型响应路由至更强模型。该方法先刻画最优路由策略，再基于模型间比较推导出有原则的近似方案，且强模型越接近真实分布近似越准确。在智能体与单轮任务中，该方法无需真实标注即可平衡路由成本与响应准确率，即使有真实正确性信号用于训练，基于分歧的路由仍可超越直接预测正确性的方法。
arXiv cs.CLAI 评分2222 CascadeLedger：LLM 级联中信息与资源完整性的反事实审计
CascadeLedger 是一个面向预算受限语言模型级联的反事实执行审计框架，通过调用先于读取语义、服务与缓存身份绑定及事件轨迹冻结，判定聚合等价轨迹有效性。其两层审计在冻结缓存、独立生成与服务评估中实现 0.0000 假阳性率，检出 0.9983 的序列化故障与 0.9982 的未记录隐藏读取故障，并在确定性重算后改变 0.3403 的受损质量-资源结论。
arXiv cs.AIAI 评分2929 DropKV：解耦残差输出扰动实现近最优 KV-Cache 淘汰
DropKV 是一种基于解耦残差输出扰动（Decoupled Residual-Output Perturbation）的 KV-Cache 淘汰框架，通过将联合淘汰决策拆分为独立的逐 token 打分，绕开 NP-hard 组合难题，并在锥条件下提供可证明的常数因子近似保证。
arXiv cs.AIAI 评分3030 FAOP：AI 智能体工作流的形式化范式与代数
研究者提出 FAOP（Functional Agent Operating Procedures）形式化理论，将 AI 智能体工作流重构为基于作用域状态的类型化函数，并定义四级渐进范式：分解（FNF-1）、类型化（FNF-2）、因子化（FNF-3）与作用域化（FNF-4）。
arXiv cs.CLAI 评分1717 面向 Masewalkopa 的 Nawatl 单变体 NMT 专精化
针对多变异体混合语料造成的“变体碎片化”问题，研究者基于 70,000 对多变异体数据，将 mT5-large 专精化到墨西哥 Santa Ana Tlacotenco 所说的 Nawatl 变体 Masewalkopa（nhn）。
arXiv cs.AIAI 评分2727 LoopAhead：为 Looped Transformer 加速解码的推测框架
LoopAhead 是一个面向 Looped Transformer 的推测解码框架，通过轻量级前瞻草稿器（LAD）利用早期循环状态预测多个未来 token，并由深层循环反馈决定草稿分支的继续或暂停，最终由全深度模型做 token 决策。该方法在保持目标模型输出分布的同时，实现最高 7.82 倍的解码加速。
arXiv cs.CLAI 评分3232 SpecAgent：让强模型审校弱模型草稿的工具智能体轨迹级推测与语义验证
SpecAgent 是一种协作协议，让弱模型在只读工具调用中起草步骤、强模型通过单次 prefill 并行验证并提交最长语义有效前缀，从而把强模型从每步生成者变为审校者。
arXiv cs.CLAI 评分2222 HyCo：面向移动端-云端推测解码的低成本混合草拟方案
HyCo 将服务器模型原生多 token 预测（MTP）头的深度草拟放到设备端执行，替代分支则交给一次 SLM 前向，服务器只返回该头所需的隐藏状态、输入嵌入和 KV 条目。
arXiv cs.CLAI 评分2222 DPA-MoE：面向 MoE 推理的运行时精度控制框架
DPA-MoE 是一个让路由专家支持任意精度的运行时精度控制框架，通过 SharedScale AnyBCQ 将专家前馈权重编码为可前缀解码的 chunk，并利用实时 router gate 分数在推理时分配 chunk，使单个编码后的 MoE checkpoint 无需重训练或重新编码即可在多种有效权重预算下运行。
arXiv cs.CLAI 评分2222 混合生成-标注解码：高效提取产品属性值
研究者提出混合生成-标注解码架构，将标注源文本片段与开放式生成结合：可复制的常见属性值由标注头直接从源文本抽取，生成头则专注标注标签空间外的稀有属性和需重格式化或归一化的非可复制值。该解码器集成进 vLLM 推理后，属性覆盖率提升 10%，正确属性值对多提取 63%，精度无损，延迟降低 44%。
arXiv cs.CLAI 评分3131 用大语言模型让医疗器械文档评估的每个阶段都实现确定性
研究测试了 14 个商用大语言模型部署（来自 3 家提供商的 7 个模型、6 种调用路径），在各自接受的确定性采样设置下重复同一请求，每个部署都至少有一次返回不同评估结果，其中 12 个出现标签变化。
arXiv cs.AIAI 评分3434 RAC：面向约束驱动工程任务的关系型智能体契约
研究者提出 RAC，一种与 harness 无关的工程智能体动作与反馈层契约，由智能体决定工件应满足的关系，专用工具推导具体几何或时序结果。
arXiv cs.CLAI 评分4040 AbridgeKV：把长链推理压缩进学习型 pause token 的 KV cache
AbridgeKV 将每段已生成文本压缩进少量学习型 pause token 的 KV 条目，从而释放原始 cache，让后续 token 改为关注这些 pause token。
arXiv cs.CLAI 评分2020 DeepUnfolding-Agent：一个经典-量子自适应控制 API
DeepUnfolding-Agent 是一个基于 FastAPI 的 schema 驱动平台，将深度展开自适应控制以外部软件服务形式提供，使控制器逻辑与任务训练脚本解耦。
arXiv cs.MAAI 评分2525 TeraAgent：可模拟 5000 亿智能体的分布式智能体仿真引擎
TeraAgent 是一款分布式智能体仿真引擎，可在 84,096 个 CPU 核心上模拟 5000 亿个智能体，规模达当前最先进平台 BioDynaMo 的 292 倍。它通过定制序列化机制与 delta 编码降低跨服务器数据传输，序列化中位加速 110x、反序列化 37x，单核智能体更新速率是 Biocellion 的 8 倍，原位可视化性能提升 39x。
arXiv cs.MAAI 评分3232 Diviner：面向大规模基础设施、由人类治理自适应调整的智能体根因分析系统
Meta 提出智能体根因分析系统 Diviner，围绕 Encode、Execute、Evaluate、Adapt 四阶段可靠性生命周期运行，用经过审核的事件语料和服务负责人经验构建带版本范围的技能、工作流、类型化工具与事件知识图谱。
RadarAIAI 评分4949 苹果 Minions 研究：用闲置 Mac GPU 组建虚拟 GPU 云跑 AI 推理
苹果研究团队公布 Minions 系统研究，将闲置 Mac 的 Apple Silicon GPU 聚合为可动态调度的"虚拟 GPU 云"，用于大规模机器学习推理。
Microsoft Research精选AI 评分6262 微软研究院发布 Magnetar：基于标准哈希函数的通用零知识证明系统
微软研究院发布零知识虚拟机 Magnetar，可证明 Rust、Go、C 编译后的 RISC-V 程序执行，在 15 个基准程序上平均比现有最快的 zkVM 快 10 到 39 倍，证明验证约 12 毫秒。
推荐理由：微软研究院公开 Magnetar 的设计与基准数据，可了解零知识证明在通用程序上的效率与密码学取舍。
RadarAIAI 评分4848 Microsoft Research 发布 zkVM 系统 Magnetar，比现有最快系统平均快 10 到 39 倍
Microsoft Research 发布零知识虚拟机 Magnetar，可直接证明用 Rust、Go 或 C 编写的 RISC-V 程序，在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍。在笔记本电脑上每秒可证明 720 万至 870 万条处理器指令，证明约 12 毫秒内可验证，安全性只依赖 SHA-256 或 SHA-3 等标准哈希函数，无需受信任设置或椭圆曲线。
arXiv cs.AIAI 评分2424 CORE：覆盖校准的 KV 保留与补偿，统一长上下文解码的保留与补偿双通道
CORE 通过一个校准分布同时驱动 KV 保留与补偿两个通道，在 90% 压缩率下于三个骨干模型上最高超过最强 RULER 基线 3.78 分。该方法将查询效用与对数行列式覆盖的离线分配蒸馏为轻量缓存感知索引器，推理时无需单独的写入权重预测器或在线对数行列式评估。LongBench 与重复驱逐评测进一步验证了其有效性与解码效率。
arXiv cs.AIAI 评分3333 Purlin：将集合通信的编排与数据通路分离
Purlin 是一个将集合通信的语义、编排与数据通路解耦的 scale-up 通信框架，通过 SNAC 编排协议和硬件相关的 Atom 数据通路实现 copy 与 reduce 原语。
arXiv cs.AIAI 评分2727 DSpine：面向投机解码的相邻因果注入并行草稿模型
DSpine 是一种在骨干网络各层注入相邻因果条件的投机解码草稿模型，让每个前驱的预测特征写入后继位置，使因果条件链随网络深度展开而所有位置并行更新。
arXiv cs.AIAI 评分2727 面向 Connected TV 内容发现的 LLM 智能体推荐系统
该研究提出一套 LLM 驱动的智能体推荐系统，用于 Connected TV（CTV）内容发现，借助大语言模型的推理能力直接处理并融合趋势话题、突发新闻、文化事件、跨端用户行为等异构上下文信号，免去大量人工特征工程与定制数据管道。
arXiv cs.AIAI 评分2525 Ember：面向 Token 接口的千字节级状态优化器
研究者提出轻量优化器 Ember，专用于 embedding 与 LM-head 矩阵，优化器显存占用为 O(V + D)，而非 Adam 的 O(2VD)，且无需对 token 表优化器状态做分片。