CIG-SFT：面向可泛化后训练的条件信息增益方法
研究者提出 CIG-SFT，一种信息论框架，通过对比冻结参考模型在有/无任务输入时的 token 似然，估计每个示范 token 携带的任务条件信息增益，并将其转化为 KL 正则化的策略投影，导出等价的标量加权 SFT 目标。在数学推理与代码生成基准上，CIG-SFT 持续优于标准 SFT 和近期自适应微调基线，在困难评测分布上的泛化提升尤为明显，且无需额外训练数据或在线 rollout。
#推理
arXiv cs.CLAI 评分2222 arXiv cs.CLAI 评分2525 语言模型具有可解释的叙事机制
研究在 GPT-2-Small、Gemma-2-2B 和 Llama-3.1-8B 中识别出与叙事性相关的注意力头、MLP 神经元和稀疏自编码器特征。消融这些神经元和特征集后，高叙事性文本的下一 token 预测损失增幅大于低叙事性文本，开放式生成的叙事性也随之下降。下游基准中，故事补全和叙事问答任务受影响最大，但效果因模型和语言而异，虚构与幻觉基准结果则好坏参半。
arXiv cs.CLAI 评分2222 通过激活波分析 LLM 隐藏状态的信息与几何特性以改进投机解码
研究者提出一套基于信息量与多样性双准则的多层隐藏状态选择框架，用于投机解码。该方法通过矩阵熵衡量信息量、用 CKA 量化多样性，并引入 token-entropy filtering 剔除低预测熵 token 对应的隐藏状态。在 EAGLE3 风格的投机解码中，所选层组合优于包括默认 [2, N//2, N-3] 规则在内的固定基线。
arXiv cs.CLAI 评分3131 重新思考扩散与解码的角色分工：面向并行语言生成的 Predictive-State Flows
研究者提出 Predictive-State Flows（PSF），将序列划分为块，由 rectified-flow 先验仅生成基于前文计算的预测状态，再由块因果解码器并行生成所有块，把扩散从 L 个 token 级状态降到 K << L 个预测状态，token 级串行深度降至 L/K。
arXiv cs.CLAI 评分2222 基于非线性时延系统的序列建模框架，实现内容感知的时间召回
研究者提出一种基于非线性时延系统的序列建模框架，有效延迟根据当前与历史输入的语义相似度动态估计。该框架包含可微语义滞后估计器、对角状态空间闭式累加和求解（每步 O(1) 复杂度、无顺序循环）以及可解释的模糊语义调制机制三项创新。在文本分类与生成任务上，实验结果优于现有最先进方法。
arXiv cs.CLAI 评分2121 COFFEQA：面向 LLM 问答的反事实引导少样本蒸馏
研究提出 COFFEQA，一种用反事实样本引导 LLM 少样本蒸馏的策略，通过让教师模型改变答案的最小修改上下文，为困难事实样本提供额外监督。作者还提出 Context Following Difficulty（CFD）指标，在蒸馏前验证反事实样本。
arXiv cs.CLAI 评分2222 反思式提示词优化如何提升深度研究智能体：主题不相交多随机种子协议测量可迁移增益与提示词级过拟合
研究者将反思式提示词进化（GEPA）应用于多智能体深度研究智能体的两个系统提示词，在主题不相交划分下，留出引用奖励从 0.702 升至 0.781，提升 0.079，bootstrap 95% 置信区间为 [0.051, 0.107]，并在三个随机种子上复现（均值 0.107）。
arXiv cs.CLAI 评分4444 一模型循环万物：面向语言模型的弹性潜在循环（ELR）
研究者提出弹性潜在循环（ELR），让循环语言模型在单次循环时与同规模非循环模型服务成本相同、精度相近，每增加一次循环则用更多推理算力换取更高精度。
arXiv cs.CLAI 评分2424 DCOCO：为推测解码的并行草稿恢复上下文依赖
DCOCO（DFlash Contextual Corrector）是一种轻量机制，在保留并行草稿的同时恢复草稿块内被丢失的 token 依赖，通过并行评估相邻位置多个候选 token 的上下文兼容性来完成选择。在四个验证器骨干和十个基准上，DCOCO 在所有配置中取得最高平均吞吐，较原始解码最高加速 6.6x；在 4-32 并发请求下比最强竞争方法高 6-23%。
arXiv cs.CLAI 评分2727 AutoIndexer：通过在编辑链上训练因果模型实现灵活顺序解码
AutoIndexer 是一种模拟 Chain of Edits 的生成模型，通过 token 插入、替换和删除在生成后灵活修改先前输出，弥补自回归解码无法回溯修改、扩散 LLM 无法灵活增删 token 的不足。
GitHubAI 评分1212 智算架构志：LLM Systems Architecture 技术专栏与研报合集
ifnodoraemon 发布 LLM Systems Architecture 技术实验站点，聚焦大模型推理引擎与 AI Agent 生产级架构。
GitHubAI 评分1212 Project Axiom：用 C++23 与 CUDA 从零构建的多模态 AI 引擎
Project Axiom 是一个用 C++23 和 NVIDIA CUDA 从零编写的裸金属多模态 AI 引擎，不依赖 Python 框架，宣称实现 100% Tensor Core 饱和、亚毫秒级 prefill 延迟和零延迟 PCIe DMA 流式传输。
Hacker NewsAI 评分2222 为什么说“没人理解 LLM 如何工作”是错的
针对 MIT Technology Review、TIME、WIRED 等媒体“没人知道 AI 如何工作”的说法，一位亲手训练过模型的研究者指出，LLM 是纯机械系统：文本先转为 token，再经 Transformer 各层的矩阵乘法、注意力计算、归一化和非线性变换，最终输出下一个 token 的概率分布。
GitHubAI 评分1212 API Evangelist 发布 Cerebrium 无服务器 GPU 平台 API 档案
API Evangelist 发布了第三方独立档案，梳理 Cerebrium 无服务器 GPU 平台的公开 API 表面。
RadarAIAI 评分4141 vLLM Semantic Router 发布开源多模态决策模型 Decision 3.0，共 5 个尺寸
vLLM Semantic Router 团队发布 Decision 3.0 系列开源多模态决策模型，含 d3-lite（0.85B）到 d3（26.09B）共 5 个尺寸，全部采用 Apache-2.0 许可。
GitHubAI 评分5858 NeuroBrix 发布通用深度学习推理引擎，统一运行 9 类模型家族
NeuroBrix 发布通用深度学习推理引擎，用同一套 CLI 和 .nbx 容器格式运行图像、视频、LLM、视觉语言、多模态、TTS、STT、语音理解和超分共 9 类模型家族，无需针对模型写专用代码。
RadarAIAI 评分3232 机器学习面试指南：RLHF 核心三步与机制拆解
RLHF 训练被拆解为监督微调（SFT）、奖励模型训练与 PPO 三大阶段，并强调用 KL 散度约束防止模型过度刷分。内容还补充了 DPO 替代方案及 reward hacking 防范等高频面试考点。
RadarAIAI 评分1515 AI 论文速递：智能体生态阈值、BrickBench 与思考惯性等 5 篇前沿研究
本期速递汇总 5 篇 AI 前沿论文：Crawley 等人研究多代理生态的强 Allee 效应，Stanford 等提出乐高物理装配评测基准 BrickBench，雷典乔团队揭示大模型在指令禁止下仍存在显式推理的「思考惯性」，另有两篇分别探讨自我改进极限与主动遗忘机制。
Hacker NewsAI 评分6262 ZML 发布 LLMD 通用 LLM 推理服务器，支持 CUDA、ROCm、TPU、oneAPI 与 Metal
ZML 发布 LLMD 通用 LLM 推理服务器，可运行 LLaMa、Gemma、Qwen 和 Mistral 模型，覆盖 NVIDIA CUDA、AMD ROCm、Google TPU、Intel oneAPI 和 Apple Metal 五种加速器目标。
RadarAIAI 评分2424 告别「氛围写代码」，迎来精密工程
有观点认为「氛围写代码」一词已过时：具备超大上下文窗口的现代模型生成的架构与代码质量已超越普通工程师，AI 辅助开发已演进为真正的精密工程。
RadarAIAI 评分3434 投机解码机制与 Apple Silicon 加速详解
投机解码通过快速草案模型与目标验证模型协作绕过 LLM 推理的内存带宽瓶颈，采用 min(1, p/q) 接受标准和残差分布采样。Uzu 推理引擎在 Apple M5 上实现了 4 倍吞吐量。
RadarAIAI 评分3838 GLM 5.3 EXL3 实现约 95 tok/s 的本地解码速度
完整版 GLM 5.3 在 EXL3 量化下借助 TensorFold，于本地多 GPU 工作站硬件上实现约 95 tok/s 的解码吞吐量。Ash Hart 指出，这是一项解码性能里程碑。
Hacker NewsAI 评分2222 让 LLM 凭记忆给出导航路线：一次小模型生存能力测试
有作者让 Haiku 5.5、Opus 5.5、GPT-6.1、Qwen、Kimi、Gemma、Astra 6 等模型在不调用工具的情况下，仅凭记忆给出奥斯汀、Casper、旧金山、百慕大等地的逐向导航，并由 Opus 5.5 与 Astra 6 用 OpenStreetMap 交叉评分。
RadarAIAI 评分6262 Karpathy：LLM 能力认知鸿沟正扩大为漏斗，仅约 0.2% 的专业用户看到前沿智能体能力
Andrej Karpathy 重发并扩展其 4 月的观点，认为外界对 LLM 能力的共识差距正从两群人各说各话变成一个急剧收窄的漏斗。
RadarAIAI 评分3838 将 4 款模型的推理档位调至「高」：只解决了一个问题，却为所有消耗买了单
一项针对 4 款 LLM 的实测显示，把推理档位调到「高」除了复杂逻辑谜题外几乎不提升任务准确率，却持续推高 token 用量与推理成本。
RadarAIAI 评分4242 Meta、MIT 与 UW 提出上下文语言模型：让 LLM 自主管理上下文
Meta、MIT 与华盛顿大学的研究者提出上下文语言模型（Context Language Models），让 LLM 像操作文件一样动态编辑并自主管理上下文，以提升任务准确率并降低算力开销。
Hacker NewsAI 评分3434 我如何逆向工程一款商业空间音频效果器
作者在 Linux 上用 PipeWire 复刻一款商业空间音频效果器，通过录制脉冲响应和正弦扫频来测量其滤波器行为，而非猜测内部算法。他先用 MIT KEMAR 和 SADIE II 的 HRTF 数据库尝试，发现无响室录音效果差，SADIE II 带房间响应更接近目标。测试文件包含不同幅度的脉冲、左右声道及反相组合，并用正则化公式从扫频结果中估计传递函数。
Hacker NewsAI 评分3434 Tensordyne 如何用对数数字格式提升 AI 计算效率
Tensordyne 采用基于对数的数字格式，将乘法转为加法运算，从而比传统浮点芯片更高效地做矩阵乘法，其软件栈可将 PyTorch 模型转换到该格式运行。但该格式让加法更难，需依赖近似与专有技巧，且客户若要移植为 GPU 优化的自定义 kernel 需大量工作，训练负载也因数值稳定性问题难以支持。文章还讨论了生成式 AI 负载多为内存受限，批处理才能让计算引擎效率真正发挥作用。
RadarAIAI 评分3636 哈佛 CS2680《现代 AI 系统》课程解读：从 Agent Loop 到推理引擎
哈佛大学 2026 年秋季研究生课程 CS2680「Modern AI Systems: Agents and System Optimizations」由 Juncheng Yang 开设，用一条主线把 agent 应用与推理系统串起来。作者对该课程做了深度解读，内容从 Agent Loop 延伸到推理引擎。
RadarAIAI 评分2222 Emad Mostaque 称 1 万 AI 智能体 88 小时攻克 Navier-Stokes 难题
Stability AI 创始人 Emad Mostaque 称，1 万个 AI 智能体用 88 小时解决了 Navier-Stokes 问题，相当于顶级数学家 100 年的工作量。他表示这是 7 道千禧年大奖难题之一，人类目前只解出 1 道，因此不能再说答案存在于训练数据中。
量子位AI 评分6666 何恺明团队发布多模态视觉原生 Harness 框架 VISTA
何恺明团队在论文《VISTA: A Visual Harness for Reasoning in an Interactive World》中提出视觉原生 Harness 框架 VISTA，让现有多模态模型直接观察环境、保存原始画面，并在推理时随时回看、放大和检查细节，无需从头训练。
GitHubAI 评分2222 MECH：测量 GPT-2 的机制可解释性工作台
MECH 是一个机制可解释性工作台，加载真实 GPT-2 small 权重（124M，transformers + torch），对 144 个注意力头、36,864 个 MLP 神经元执行激活修补、层消融、激活引导和 IOI 电路发现等因果干预，结果以 logit 差值呈现。
RadarAIAI 评分2222 Elon 想用 Terafab 把芯片迭代压到一年十版
Elon 提出 Terafab 构想，要把逻辑芯片、存储、封装、光刻掩膜全部放进同一栋楼，实现一年十版迭代，让设计、制造、测试、改掩膜的反馈回路在内部闭环。他把技术进步拆成「单位时间迭代次数 × 每次迭代进步」，SpaceX 星舰已验证该硬件迭代方法论，如今想搬进芯片行业。作者认为若 AI 接管芯片设计与验证，瓶颈将转移到物理闭环，谁拥有最短闭环谁就能兑现 AI 设计红利。
Hacker NewsAI 评分2222 Mac 上的 Megakernel：融合省下了什么，又付出了什么代价
在 Mac 上测试 Megakernel 融合方案时，FFN-to-GDN-input 窗口耗时 521.2 µs，其中内核间空隙仅 7.7 µs，大部分时间已在运算内部。
GitHubAI 评分2222 130U/bazi-context-agent：确定性八字解读引擎
130U/bazi-context-agent 是一个确定性决策引擎，可将不确定的出生时辰、带日期的生活事件与个人背景转化为可审查的传统八字解读。系统先用 12 个对称时支候选，通过 15–17 题自适应比较锁定工作盘，再以独立输入层引入背景信息而不改写选择。
GitHubAI 评分6262 Ayaka v2 开源决策模型发布：12B/E4B/E2B 三档，held-out 最高提升 15.1 CC
Ayaka v2 发布 large（12B）、base（E4B）、small（E2B）三档开源决策模型，在未见过的 held-out 队列上分别比同规模 v1 提升 +10.8、+15.1、+8.5 CC，并新增学习式推理路由、生成的 Choice 候选与图像输入。
GitHubAI 评分1212 frzifus/hmlb：基于 Talos Linux 的 GitOps Kubernetes 家庭实验室
GitHub 项目 frzifus/hmlb 公开了一套基于 Talos Linux 的 GitOps 管理 Kubernetes 家庭实验室配置，集群由 3 个控制平面节点、2 个存储节点、2 个 worker 节点和 2 个 GPU 节点组成。
GitHubAI 评分5858 agent-ix 开源 Sapho：用 System One 模型和自写规则做复合决策的 Rust 库与 CLI
agent-ix 发布 Sapho，一个用 System One 模型（如 Jev）和自写规则做复合决策的 Rust 库与命令行工具，把决策拆成多个简单问题、逐个询问模型，再用 and、or、min、max 等逻辑算子组合答案。
RadarAIAI 评分4242 如何用 ## 和 ### 拆分复杂任务辅助 AI 多阶段推理
利用不同层级的 # 符号可将复杂任务拆解为逻辑清晰的子步骤，辅助 AI 完成多阶段推理。该方法以 ## 和 ### 划分任务层级，帮助模型按结构逐步推进。内容来自作者三个三，全文约 107 字，阅读时间 1 分钟。
GitHubAI 评分3636 Quackster/tessera：C++20 多后端 LLM 推理引擎
Quackster/tessera 是一个 C++20 编写的 LLM 推理引擎，可在 GPU 上运行开放权重模型，提供 Vulkan（跨厂商 GPU）和 ROCm（AMD GPU）两个计算后端，一个二进制对应一个后端。