合成血管预测表示中的干预锚点与科学验证
一项合成数值审计研究提出,完整正交预测坐标本身无法将潜在方向绑定到具名干预,需借助干预锚点才能恢复可解释性。容量匹配的最小二乘预测器在固定输出变换下完全等价,六组三维配置跨 64 个随机种子给出最大配对预测差异 6.7e-15,但未传输编辑误差中位数达 1.513,坐标传输可消除该误差。
一项合成数值审计研究提出,完整正交预测坐标本身无法将潜在方向绑定到具名干预,需借助干预锚点才能恢复可解释性。容量匹配的最小二乘预测器在固定输出变换下完全等价,六组三维配置跨 64 个随机种子给出最大配对预测差异 6.7e-15,但未传输编辑误差中位数达 1.513,坐标传输可消除该误差。
研究者提出一个三维表征框架,将 AI 方法投影到 MDP 序贯决策形式化,并从自主程度、技能与计算成本三个维度进行分析。该框架以汉诺塔为基准,对比了 Neurosolver、FBRL 与 AutoToS(含双智能体扩展 DA-ToS)三类方法。结果显示,基于 LLM 的方法因动作空间约束较弱,将复杂度从架构转移到推理时验证,内存与运行成本显著高于 Neurosolver 和 FBRL。
研究者提出一种约束命令条件 PPO 执行器,配合 Thompson 采样 Bandit 策略器,在 MicroRTS 中按游戏内观测估计对手策略并选择命令元组,而非依赖对手身份。
研究者提出循环原生残差连接 InfiLoop,通过内容加权与可学习时间衰减维护循环状态的持续摘要,并用精确流式递归使聚合内存在迭代增长时保持恒定。
ReTeach 是一个反思式自蒸馏框架,仅用自生成尝试和结果级验证,通过多轮反思与重试构建自教师,无需参考答案、外部诊断反馈或跨样本记忆。在数学推理、科学问答和工具使用等六个基准上,ReTeach 平均准确率较 GRPO 提升 1.39 个百分点,学生模型经 on-policy 蒸馏后仍保持单次推理。
BEVPIPE 是一个用可移植 GPU 计算 API 部署多模态 BEV 感知管线并接入生产推理运行时的框架,通过将模型拆分为运行时管理的稠密子图与体素化器、稀疏编码器、BEV 投影器三个外部算子扩展,并以共享 GPU 内存空间连接,实现相比传统部署 19.5 倍的端到端加速,同时保留 98.5% 的参考 mAP,并可跨不同 GPU 后端移植。
Fed-GRPO 是一个联邦 GRPO 训练框架,让多个客户端在不共享原始数据的前提下协作训练 LLM 推理能力,并利用 GRPO 训练中自然产生的奖励统计作为零成本信号。它包含信号加权聚合、全局奖励校准和自适应稀疏通信三种机制。在数学推理任务上,其性能优于 FedAvg 并接近集中式训练,通信量无损降低 32 倍,在紧张带宽预算下最高支持 621 倍压缩且精度仅轻微下降。
BridgeGuard 是一种安全约束扩散规划方法,在去噪过程中逐步强化约束项,将中间轨迹推向场景相关的安全域,修正仅在低维曲线空间进行以保持几何连贯。其 DistanceFieldNet 模块从鸟瞰图特征预测时变距离场,通过在专家轨迹之外采样查询进行值与空间梯度监督,学习安全与不安全区域。
LLoCoT 是一个循环潜在推理框架,用对紧凑潜在工作区的迭代精炼取代从左到右的潜在向量生成,共享 Transformer 经少量迭代联合更新潜在槽位,再由概率头并行采样潜在 token 以条件化自回归解码器生成答案。
一项研究追踪了编码智能体在 ARC-AGI-3 交互推理游戏中的持续学习过程,该智能体基于冻结的基础模型,仅靠编写 Python 和 shell 脚本行动,除书面产物外不保留任何跨轮状态。
研究者提出认知导向框架 TRACE,将情感事件形式化为 Condition、Affect、Effect 三个关联阶段,并构建 TRACE-Bench,用 646 个视频上的 3,746 条结构化问答覆盖情感识别、调节解码、原因推理、结果推理与全链重建五项任务。
研究者提出用势函数(prefix 上的实值函数)分解测试泛函,利用采样时附带产生的下一 token 条件概率来降低自回归语言模型期望估计的方差。该方法给出了势函数降低方差的条件,并为多种估计目标设计了实用势函数,在相当计算成本下实现了显著方差缩减。
研究者提出 TypedBench,一个针对 Jev 等类型化决策模型的基准,由七个策略标注生成器和九个评测套件构成,按释义的中位数与范围报告准确率,并以匹配的完美校准预测器的有限样本噪声底为参照衡量校准误差。
研究提出一个理论框架分析扩散模型采样中扰动的传播机制,用扰动与参考轨迹分布间的 KL 散度定义"路径代价",证明其能约束但不决定输出分布的变化。在预训练扩散模型上以相同路径代价进行受控干预,发现输出敏感度随采样阶段和空间频率呈现不同模式;将该分析用于缓存加速时,能可靠识别缓存导致较大图像误差的采样区间。
RaReCache 通过秩不一致度量识别信息密集 token,仅重算部分位置即可让大模型准确复用小模型预填充的 KV Cache。在 Qwen3-0.6B 到 14B 的 23 倍参数差距下,重算 30% 位置保留 95-99% 目标精度;Llama3-8B 到 70B 的 8.8 倍差距下,重算 40% 保留 96.5% 精度,并实现最高 3.04x 预填充加速。
针对 RLVR 训练导致推理模型校准退化、过度自信的问题,研究者提出校准感知训练框架 RL-ARC,联合利用推理置信度与答案置信度,将推理置信度作为正确样本的推理引导正则项、错误样本的过度自信惩罚项。在 ID 与 OOD 设置下,RL-ARC 在改善校准的同时让推理模型能根据问题自适应估计置信度,且未显著牺牲推理性能。
SynCo 是一个基于多智能体强化学习的智能体数据合成协同训练框架,联合优化 Synthesizer 与 Reasoner 两个独立参数化智能体,让任务求解策略与其训练分布共同演化。
研究者提出 ORDO,将混合整数规划(MIP)的 presolve 规划重构为统一原子动作空间上的自回归序列生成,把决策对象从参数配置转为动作序列。该方法在多个未见领域实现端到端零样本加速,据称是 presolve 动作序列上的首次。部署时采用序列 racing,通过修改 SCIP 源码注入序列并记录实际执行的动作及其轮次。
研究将开放式科学发现问题形式化为溯因自主科学发现(AASD),基于可能性理论提出可计算的溯因效用度量,并给出首个 AASD 算法 possibility frontier search,在合适条件下保持 anytime 有效性并渐近达到 ε-最优溯因效用。合成与真实科学发现任务实验显示其表现强劲。
研究者提出可辨识性驱动的实验智能体 LLM-IDEA,其可辨识性引擎对实验平台期给出三分类判定:能力上限、设计类内可解、或已证明穷尽。在 ODEBench 上,62 个含自由常数的系统中 60 个在第 0 轮即可辨识,RC 电路被判定为穷尽,收获模型仅需增加一个初始条件即可求解。
研究者提出 Harness Compilation(HC),一种离线流程,通过大模型教师依据学生执行轨迹修订可复用内容与控制逻辑,重新分配冻结小型 VLM 与外部 harness 之间的分工,部署时无需更新权重或调用教师模型。
研究发现,权重仅 PTQ 中最小化重建损失所偏好的权重未必带来更好性能,重建损失更低甚至会在同一校准数据上降低模型表现,原因是输入激活分布变化后这些权重的损失可能更高。
研究提出 Adaptive Reference Guidance(ARG),通过前缀续写让模型从参考解前缀继续生成轨迹,验证通过则保留、否则回退到参考解,并用续写结果学习跨题目共享的前缀选择器。该方法应用于 GRPO 的全失败组,在 Qwen3-4B 和 Qwen3-8B 的五个数学推理基准上取得所评估方法中最高的 aggregate pass@12,平均采样准确率也具竞争力。
OpenProblemBench 是一个包含 82 个未解数学与理论物理问题的基准,每题附研究背景、假设与已有进展,并选取其解答的关键数学或计算主张可被较清晰检验的问题。四个评估模型在无参考解的情况下独立评判提交的正确性、完整性与进展程度,七个配置中 GPT-6-Astra 平均判定解决率最高,为 14.0%,全尺寸开源模型为 5.5-6.7%,Flash 模型为 2.4-3.7%。
研究者提出一种索引式策略(indexical policy)来学习搜索控制,每个领域一份规范,新增 choose 规则将对象载入寄存器并标记回溯点,使结构终止性同时将每次执行限制为对象数的多项式。
研究测试了小型 LLM 智能体能否在明确的墙钟时间预算下既遵守运行时长又高效利用时间,在 MLE-Bench Lite 五个竞赛上评估 Qwen3.6-27B、在 Zork I(Jericho)上评估 Qwen3-4B。
Plan-and-Patch 是一个 plan-and-act 框架,让扩散语言模型(dLLM)通过并行解掩码生成结构化、类程序式计划,并只重填受影响区域来修复计划、保持前后步骤不变。
研究提出用有界验证框架区分 Agentic AI 系统性能提升的不同机制,将阶段定义为可接受转录、多项式界、交替验证协议与终端检查器的组合。在均匀逐点概率间隔与任务相对可靠性下,独立多数放大可保持原生可达与闭包前沿两类语言,而随机磁带上的存在性接受可能引入错误输出。递归自我改进中,在共同可靠解释器与固定验证协议下的一致有界自我修改仍处于同一验证类,另设条件误差预算控制自适应候选选择中的误选。
字节 Seed 团队 9 月底在 arXiv 提交论文,指出分块 KV 缓存压缩引入 Token 相位这一新位置坐标,导致检索性能周期性变化,用以解释 DeepSeek 的抽风现象。
公开包 galahad-kv 将每约 16,000 token 块的 KV 状态加密存入本地 NVMe 磁盘,之后按字节精确加载、无需重算。
OpenAI 的数学突破可能引发数学家的身份危机。AI 解题速度已快到人类难以理解其解法,文章由此追问下一个受冲击的会是谁。
一份研究草稿在 OpenAI 数学问题 #130 的精确复数算术、指定根与对数级字长模型下,提出精确 DFT 的全长度上界 T(n)=O(n(log n)^(1-δ)),δ=7.3×10^-5,高于 #130 已发表的 1e-13 指数节省。
研究者提出 Universal Attention,一种端到端可训练架构,用复合衰减机制作为自适应剪枝准则,剔除对注意力计算贡献最小的 token,同时保留 RoPE 位置嵌入与 Softmax 注意力。该架构在自然语言和合成任务数据上实现 SOTA 的 10× 压缩,下游性能优于 SOTA 基线和未剪枝 oracle,并在 16k 长度下实现 25× 压缩,展现出更强的长上下文泛化能力。
freeCodeCamp 发布一小时视频教程,教你在笔记本或普通 CPU 上从零构建、预训练并微调一个 2500 万参数的语言模型。课程涵盖混合线性/稀疏注意力、MoE、绑定嵌入权重和多模态图像 patch 输入等现代 LLM 架构,并演示模型从随机字符生成逐步学会 Python 语法。后训练部分搭建轻量 RL 循环,让模型写代码、跑单元测试并获取奖励,任务成功率从 0% 提升到通过多数评测。
HAiKU 是一个用纯 AML 模块重写的 Python 对话生命体,以 5–7–5 俳句回应提问,靠 Cloud、Harmonix、MathBrain、RAE 等器官在词权重、不协和度与温度间生成回复。
Stability AI 联合创始人 Emad Mostaque 称,OpenAI 求解 Navier-Stokes 花费约 1000 万至 2000 万美元算力。他表示算力价格会快速下降:达到国际数学奥林匹克金牌水平最初需 8 万美元,如今用最新模型只需 10 美元。
研究团队提出 Vosti 推理引擎,针对确定性 LLM 推理给出形式化规范:固定模型与部署配置下,相同 prompt 和初始采样器状态的请求应在对应输出位置产生逐位相同的 logits。
ARGUS 是一个对抗式推理智能体,输入研究想法、提案或决策后,会提取其底层假设、检索正反证据并做压力测试,指出想法最可能在哪里崩掉。它提供 INVESTIGATE、BREAK IT、MIRROR 三种模式,输出假设优先级、文献格局、差距与新颖性、可行性与影响、断点及行动方案。
研究者提出用拓扑斯理论研究 LLM 架构,将 LLM 视为函数构成的范畴,证明其具备(余)完备性并构成拓扑斯,从而支持拉回、推出、(余)等化子、指数对象和子对象分类器等通用构造。论文进一步用反向传播的函子刻画给出 LLM 拓扑斯架构的潜在实现方案,探索超越线性链式与 MoE 的新型组合结构。
KubeAI 是一个在 Kubernetes 上部署和扩缩机器学习模型的 AI 推理 Operator,支持 LLM、嵌入向量、重排序和语音转文字,可运行 vLLM 与 Ollama 服务。