vLLM 为 Meta Muse Spark Open 提供 Day 0 支持
vLLM 与 Meta Superintelligence Labs 合作,在 Muse Spark Open 发布当天为其提供 Day 0 支持。
推荐理由:vLLM 在发布当天给出 Muse Spark Open 的部署命令、量化格式与 DSpark 投机解码配置,可据此评估 1M 上下文的生产落地成本。
vLLM 与 Meta Superintelligence Labs 合作,在 Muse Spark Open 发布当天为其提供 Day 0 支持。
推荐理由:vLLM 在发布当天给出 Muse Spark Open 的部署命令、量化格式与 DSpark 投机解码配置,可据此评估 1M 上下文的生产落地成本。
微软研究院发布零知识虚拟机 Magnetar,可证明 Rust、Go、C 编译后的 RISC-V 程序执行,在 15 个基准程序上平均比现有最快的 zkVM 快 10 到 39 倍,证明验证约 12 毫秒。
推荐理由:微软研究院公开 Magnetar 的设计与基准数据,可了解零知识证明在通用程序上的效率与密码学取舍。
Apple 发布 MLX 新版本,展示在 Mac Studio 上本地运行前沿大模型:四台 M5 Ultra 组成的集群运行 816B 参数的 Muse Spark Open 时生成速度超过 36 tokens/s,单机 M5 Ultra 相比 M3 Ultra 的 TTFT 最高快 4.6 倍、生成速度提升 1.6 倍。
推荐理由:Apple 官方给出 MLX 在 Mac Studio 集群上跑近万亿参数模型的实测数据,可据此判断本地大模型推理的可行边界。
作者在数月研究图像与语言模型的神经元和回路后提出,网络自身机制就是可读的构建单元,此前被视为多义性和叠加的经典证据被误读,实际多为一种递归泛化现象。作者称重新训练 InceptionV1 架构后,其最后一层 99-100% 的神经元易于解释,而初步审计 Qwen3-32B 时约 90% 的神经元极点只有一个主要功能。
推荐理由:作者以第一手实验重审多义神经元与叠加假说,给出递归泛化这一替代解释,可供理解可解释性研究走向。
Microsoft Research 发布零知识虚拟机 Magnetar,可直接证明用 Rust、Go 或 C 编写的 RISC-V 程序,在 15 个基准程序上平均比现有最快 zkVM 快 10 到 39 倍。在笔记本电脑上每秒可证明 720 万至 870 万条处理器指令,证明约 12 毫秒内可验证,安全性只依赖 SHA-256 或 SHA-3 等标准哈希函数,无需受信任设置或椭圆曲线。
ARC Prize 公布 Gemini 4 Argon 在 ARC-AGI-3 标准 harness 下的测试结果:低推理得分 49.8%,完成 42/55 局;中推理 46.3%,完成 46/55 局;高推理仅完成 19/55 局,因此未公布分数。
一项新基准测试让商用 AI 智能体在无人类提示下求解理论物理研究题,运行在 OpenAI Codex 环境中的 GPT-6-Astra 解出 50 题中的 49 题(98%),平均每题成本不到 3 美元,整套基准约 116 美元。
推荐理由:读者可看到前沿模型在理论物理论文级计算上的实际得分、成本与失败模式,以及作者对科研训练与资源门槛的影响判断。
阶跃星辰发布技术博客《Inside Step 5 Preview: Architecture and Training for Agentic Work》,介绍架构与训练如何协同设计以支持更长、更复杂的智能体任务。
TypeLLM 发布开源工作流模型,可将整个工作流作为一次 API 调用执行,把 JSON Schema 转成依赖图并在单一共享上下文上运行。它基于 SGLang 做约束解码,enum/boolean 只给一个打分 token、数字限定位数、依赖图复用缓存前缀,因此无需改动权重即可从原生 Qwen checkpoint 获得 schema 保证的输出。
蚂蚁百灵的 Ling-3.1-flash 已在 DeepInfra 上线,开发者可直接调用构建应用。该模型总参数 560B、每 token 激活 25B,面向长程编码、多步分析和工具调用智能体,每 1M tokens 定价为输入 $0.30、输出 $0.90、缓存 $0.06。
针对离线强化学习在自动驾驶中面临的交互分布偏移(IDS)问题,研究者提出交互约束驾驶策略框架 ICDP,将联合支撑退化精确分解为 ego 支撑与残差交互支撑两部分,并通过对比密度比估计恢复后者,无需联合密度建模、周围智能体预测或反应式模拟器与世界模型 rollout。
研究者提出 Mixture of Layers(MoL),一种在视觉 patch 级别、由指令条件驱动的层路由方法,可动态聚合视觉编码器中间层的查询相关隐状态,支持图像级、patch 级或混合路由的 top-k 稀疏聚合。
该论文研究针对深度强化学习(DRL)的基于迁移的黑盒攻击,将攻击建模为每步扰动预算下的回报最小化问题。作者发现直接移植 FGSM、MI-FGSM、NI-FGSM 等图像分类攻击仅能产生与随机噪声相当的扰动,随后提出轨迹级攻击,通过可微环境模型和温度平滑代理策略在滚动时域上优化扰动序列。
研究者提出分布匹配进化算法(DME),将多种进化算法解释为近似马尔可夫链蒙特卡洛,从而在不更新模型权重的情况下从全局目标分布中采样,可用于罕见事件采样与发现。在需要大量采样才能找到解的问题上,DME 的样本效率高于现有方法。
研究者提出 ULTRADISCOVERY,一个含五个领域的交互式世界,用于考察智能体在认知开放与结构互联条件下的溯因探索能力。在 2×2 设计中,表征开放时十一个模型常撤回被教授的公理,且无一引入未观测实体或重写变量;披露表征使干预请求增至三倍。没有任何系统能在 200 次付费动作内做出精确预测,更大预算下仅两种辅助同时具备时才出现一次精确预测。
CORE 通过一个校准分布同时驱动 KV 保留与补偿两个通道,在 90% 压缩率下于三个骨干模型上最高超过最强 RULER 基线 3.78 分。该方法将查询效用与对数行列式覆盖的离线分配蒸馏为轻量缓存感知索引器,推理时无需单独的写入权重预测器或在线对数行列式评估。LongBench 与重复驱逐评测进一步验证了其有效性与解码效率。
针对现有潜在视觉推理中多个 latent token 共享同一视觉证据、易产生冗余表征的问题,研究者提出 MoLE(Mixture of Latent Experts)框架,让不同潜在视觉专家在证据提取阶段相互隔离,并由专门的潜在摘要专家聚合其互补表征。
研究者提出 Screw Attention,一种将两个物体间关系建模为空间变换而非图边的 Transformer 层,每对 token 携带相对位姿与关节 screw,消息沿该关系传输至接收方坐标系,注意力分数只看到坐标系不变量。
V-JEPA Policy 在冻结的 V-JEPA 2.1 编码器潜空间上构建世界-动作模型,总参数 0.9B、可训练 0.6B,在 LIBERO、LIBERO-Plus 和 RoboCasa-GR1 上与代表性 WAM 及视觉-语言-动作基线表现相当。
Purlin 是一个将集合通信的语义、编排与数据通路解耦的 scale-up 通信框架,通过 SNAC 编排协议和硬件相关的 Atom 数据通路实现 copy 与 reduce 原语。
研究证明 Benzmüller 与 Scott 关于 Gödel 本体论论证的浅层嵌入中,294 条显式证明均未使用混合逻辑的名义词或满足算子,全部经机器验证。文章还以非退化方式限制合取公理,重新解决了笔记遗留的三个开放问题,其中一个变体下该限制反驳了上帝类存在者的可能存在。所有定理均在 Isabelle/HOL 与 Lean 4 中独立验证,反模型由 Nitpick 生成并经构建检查。
DSpine 是一种在骨干网络各层注入相邻因果条件的投机解码草稿模型,让每个前驱的预测特征写入后继位置,使因果条件链随网络深度展开而所有位置并行更新。
研究者提出软目标微调(SoFT),通过为每个示范 token 设定最低目标概率、并对 Base 分布做最小 KL 改动,在从教师示范学习与保留 Base 模型原有能力之间取得平衡。该方法用领域特定梯度预算控制这一平衡,并为每条轨迹确定概率阈值。在混合域推理与智能体任务上,SoFT 在分布内能力获取和分布外泛化上均取得对比方法中的最佳整体表现。
研究提出将验证作为 LLM 智能体的架构层,借鉴软件工程 V-Model,让规范层级逐级对应专用验证器,由确定性控制器执行判定,仅验证结果写入记忆。在 MuSiQue 四跳任务、8B 参数骨干上对比五种配置:两个无验证配置十题全未答对,均因步数上限或 token 限制终止;带验证但无规划器的配置答对八题,其余弃答。确定性 gate 以零边际成本贡献了九次纠正中的八次,且验证存在时规划反而降低表现。
R-DEIM Net 是一个 76M 参数的双专家架构,用于复述检测并生成人类可读的理由。它由交互专家(多尺度 2D 卷积与注意力头,支持可变输入长度)和推理专家(Flan-T5-small 解码器生成理由作为辅助监督)组成,通过池化解码器隐藏状态作为分类特征。
研究者提出 Prediction-Interval-Conditional Prediction Intervals(PICPIs),一种基于预测值的条件化框架,通过自洽条件 E[Y | p(X) ∈ I] ∈ I 同时定义预测值分层并保证该层结果均值落在同一区间内。
研究提出 MusicConstraintBench 基准(2180 条、八类可程序化验证约束)与 MusicRLVR 方法,仅用验证器奖励对语言模型做 GRPO 训练,无需人工标注、奖励模型或音乐领域监督微调。
一项研究以迷宫任务中的“好-坏”结果方向为对象,用受控干预区分实际结果与信息历史,检验该方向的构念效度。跨多个 LLM checkpoint,基于一种显式结果编码拟合的方向能良好迁移到另一种编码,但同一结果经由“预告”与“未预告”两种历史达成时迁移显著下降,事件后读出仍强烈依赖早先的预告。
LatentPress 将对话历史和长文档写入连续 memory tokens,由冻结解码器通过输入嵌入接口直接读取,推理时无需重建文本。
AudioChaps 是一个通过 GRPO 结合 CoT 推理对端到端 LALM 进行后训练对齐的框架,用于将连续音频流切分为主题连贯的章节。不做 SFT 冷启动直接应用 GRPO 的 AudioChaps-R1-Zero 平均 F1 比 SOTA 的 Audio-Flamingo-3-Think 提升 33 分,最终对齐模型 AudioChaps-R1 提升 49 分。
研究发现,仅用 LoRA 微调路由器(训练 0.002% 参数)即可通过路由器权重变化幅度识别 MoE 模型中可剪枝的专家。
Search-G1 是一个将检索必要性与证据依赖耦合的奖励框架,通过两个干预校准的隐藏状态读出实现选择性有据搜索:prompt 读出预测闭卷充分性以代理检索必要性,answer-commit 读出预测证据依赖。该框架经校准后打分无需过程标注或 LLM 评判推理,并在四个 QA 基准和两种规模上取得有竞争力的准确率,同时表现出更强的反事实证据依赖和更少的搜索次数。
研究者提出 Gated Q-learning,用连续、依赖状态-动作的门控机制选择性衰减资格迹,在 Watkins' Q(λ) 与 Peng's Q(λ) 两个极端之间平滑插值,无需依赖重要性采样。
研究将主动推理(AIF)的期望自由能(EFE)最小化重构为策略优化问题,证明闭环控制策略下的 EFE 最小化可表述为凸马尔可夫决策过程(MDP)。该视角揭示策略相关的奖励预测误差是沿时间反向传播 EFE 的自然梯度,而非沿层级向上传播。将世界模型学习与策略优化耦合后,主动推理呈现表演式强化学习(performative RL)的结构。
REGEN 提出用离线强化学习回收教师模型专项 RL 训练产生的回放记忆,训练通才模型,从而完全解耦 rollout 采样与反向传播。在数学推理、代码生成和指令遵循任务上,REGEN 以显著更低的成本达到多教师在线蒸馏(MOPD)的准确率。该方法有望将在线 RL 从一次性学习阶段转变为数据合成过程,代码已开源。
研究者提出 MemCon 框架,将 LLM 智能体的记忆操作建模为马尔可夫决策过程,在线学习策略自适应决定何时检索、注入蒸馏计划以及整合或遗忘记忆。该框架与后端无关,可包裹任意现有记忆实现,无需预训练和额外 LLM 调用,采用带 UCB 探索的轻量级表格上下文赌博机,在数十个任务内收敛。
研究将社会公平的可再生能源预算分配建模为 MDP,用同一求解器接口对比美国八座城市(成熟经济体)与印尼西爪哇(新兴经济体)。滚动时域值迭代策略在两地均占优:美国实现 66% 可再生能源渗透率,并将服务不足的低收入人群减少 96%;西爪哇则引入约七倍于市场追逐启发式的私人资本。该启发式在美国仅轻微次优,在印尼却可能让所有低可及性地区得不到服务。
该研究提出一套 LLM 驱动的智能体推荐系统,用于 Connected TV(CTV)内容发现,借助大语言模型的推理能力直接处理并融合趋势话题、突发新闻、文化事件、跨端用户行为等异构上下文信号,免去大量人工特征工程与定制数据管道。
研究者提出图卷积注意力(GCA),用图滤波后的 query 和 key 实现依赖输入图谱的谱注意力分数,突破标准注意力只能学到训练分布上平均谱滤波器的局限。在合成与真实数据集上,用 GCA 替换标准 query–key 投影可提升图去噪与扩散效果,去噪增益与图谱多样性相关;在 DiGress 生成框架中以 GCA 架构替换 DiGress 架构,生成质量相当且推理显著更快。
HarnessMDP 把 LLM 智能体的执行 harness 视为可学习的控制层,将智能体执行建模为有限时域马尔可夫决策过程,由 harness 根据演进的智能体状态选择结构性执行动作,并用收集到的轨迹离线学习策略、上线后自适应控制新执行。在编码任务、tau-bench、AgentBench 等评测中,HarnessMDP 相比基线 harness 持续改善执行行为与最终任务表现。