LLM 辅助零依赖 Python 库:stdlib 与第三方库的性能和正确性对比
研究用 44 个仅依赖标准库的单文件 Python 模块(zerodep)对比参考库,发现多数场景下 stdlib 实现性能相当(2x 以内),部分因架构开销反而快 5x-115x,但图像处理、二进制序列化、底层加密等依赖 C 扩展的计算存在明显性能悬崖。
研究用 44 个仅依赖标准库的单文件 Python 模块(zerodep)对比参考库,发现多数场景下 stdlib 实现性能相当(2x 以内),部分因架构开销反而快 5x-115x,但图像处理、二进制序列化、底层加密等依赖 C 扩展的计算存在明显性能悬崖。
研究用 Orb-v3 力场发现,150 个晶体子样本中 47% 的弛豫空间群依赖输入取向,全部 399 个晶体中有一半在弛豫后空间群降低。作者提出基于有限对称群卷积的张量代数 ⋆_G,将平均平方误差分解为选择规则违反、对称相关输入不一致和残差三部分,并给出无需参考的误差下界。对力预测施加投影后,空间群变化率降至最多 2%,且无需重新训练模型。
研究者提出 MUCS 方法,通过有界镜像梯度上升微调第二个模型,并用一致噪声样本测量其相对原模型的归一化偏斜,实现扩散模型的训练数据归因。该方法在三个数据集上大幅超越现有方法,并分析了影响实例重叠与 TDA 集成等新问题,已被 NeurIPS26 接收。
针对 LLM 在线策略蒸馏(OPD)中异步执行偏离理想 on-policy 目标的问题,研究者提出 f-OPD 框架,将目标偏差分解为 rollout drift 与 supervision drift,并引入样本级新鲜度分数衡量缓冲样本可靠性,据此自适应调节陈旧样本影响、约束策略漂移。
研究者提出 MoHL(mixture of hypergraph Laplacians),可直接从不完整的时空数据中学习分组关系结构,通过从观测到的共变中挖掘重叠传感器组、为每种交互阶构建拉普拉斯分量,并借助模拟缺失模式的留出集学习混合权重。在三个交通网络上的实验显示,长时段数据缺失下高阶分组收益最大,MoHL 在整日缺失场景下取得所评估基线中最低误差,且学习参数量比深度插补模型少数个数量级。
研究利用 Google 内容审核政策构建双重差分设计,发现 AI Overviews 使 SFW Reddit 社区日评论量相对 NSFW 社区提升 12.0%、评论用户数提升 12.4%,且效果集中在观点、建议等经验型讨论而非事实型信息。但随后推出的 Google AI Mode 允许用户与 AI 摘要对话,基本消除了这些经验型内容的增长。结果表明 AI 搜索的影响取决于界面设计与内容类型。
针对循环语言模型(LoopLM)在训练后量化(PTQ)中因角色分布偏移、循环状态复用和递归误差累积导致的性能退化,研究者提出循环感知量化框架 LoopQ,在保留共享量化主干的同时引入轻量适配。在 W4A4 量化下,LoopQ 在四个主干上实现五任务平均准确率 67.8% 的平均相对提升,八个主干-数据集组合的平均困惑度相对下降保守估计为 75.2%。
TypoCast 是一个以源语言类型学特征(形态类型、语序、语系)为条件的多语言语音翻译前端,而非仅依赖语言标签。在 CVSS-C 上,它以仅 228M 可训练参数在法语、德语、西班牙语到英语三个方向上平均超越 SOTA 语音到语音翻译系统,并在七语言测试中每个语言都优于身份条件的 S2ST-Omni。
针对 TCAV 因使用不连续指示函数导致评分不稳定的缺陷,研究者提出参数化统一框架 α-TCAV,用平滑函数替代不连续指示函数,并将 TCAV 作为其极限情形保留。该框架给出两种有原则的参数选择:一种用单个 CAV 即可匹配 Multi-TCAV 的均值且方差不超过后者,另一种给出概念正向影响模型输出的校准概率。实验据此质疑了将采样预算分摊到多个 CAV 的既有做法。
AsyncFC 是一个纯执行层框架,将 LLM 解码与函数执行解耦,在依赖允许时实现解码与执行重叠及函数间并行,无需微调或修改标准同步函数调用协议。在编码任务上,AsyncFC 取得 1.4 倍端到端加速并保持任务准确率。结果还显示,LLM 具备对表示未完成执行结果的符号 Future 进行推理的原生能力。
arXiv 论文调查了15种针对恶意微调的防御方法,发现它们都建立在有限攻击者模型之上,权重发布后缺乏持续约束。作者在4个开源权重模型上对6种代表性防御继续执行仅有害数据的微调攻击3个epoch,72次受防御训练中模型最终危害性均高于发布时,Llama-3.1 在最高学习率下受防御模型最终危害性接近无防御模型。
研究者提出 VLAs-as-Tools 策略,由高层 VLM 智能体负责时序推理与全局规划,一组专用 VLA 工具执行局部物理操作,并通过 VLA 工具族接口实现事件触发的重规划。
研究者提出 Counterfactual Semantic Saliency(CSS)框架,通过因果消融物体测量语义偏移,以黑盒方式量化物体重要性。基于 307 个复杂自然场景、1,306 个反事实变体和 16,603 份人类有效回答的对比测试显示,VLM 相比人类更依赖大物体、图像中心物体和高显著性物体,而对场景中人物的依赖更少,其中尺寸偏差是模型与人类语义分歧的主要驱动因素。
Discrete MeanFlow 提出一种有限状态理论框架,用概率质量传输替代连续 MeanFlow 的点运动,核心是连续时间马尔可夫链(CTMC)的条件转移核,并定义平均离散速率衡量有限区间内的平均转移概率变化。
研究提出"奖励密度原则":稀疏序列级奖励适合让强模型探索发现更优行为,稠密 token 级教师监督则适合将行为压缩进小部署模型,稀缺标注数据应先用在上游最强教师上。
研究者提出 DRIFT,一种用优势加权离散流匹配损失更新离线预训练连续时间马尔可夫链(CTMC)策略的在线微调方法,并通过路径空间惩罚正则化完整 CTMC 轨迹分布以保留预训练知识。
研究提出理论框架,通过覆盖数界定群平均与规范化方法在非不变骨干网络上的泛化误差,证明规范化模型的误差界最好与结构不变和群平均模型持平,最差与非不变基线持平,且取决于规范化的正则性。在点云置换群上,该框架证明字典序排序的覆盖数随维度指数增长,而 Hilbert 曲线规范化保证多项式增长,首次为 Hilbert 曲线序列化在 SOTA 点云架构中的成功提供形式化理论依据。
HIMMEL 用稀疏语义锚帧加轻量压缩域三流适配器编码帧间运动,在 Video-MME 上以 3.6 倍更少上下文 token 超过 32 帧密集基线 2.3 个百分点(61.2% 升至 63.5%),单题端到端耗时从 2.75 s 降至 1.03 s。
研究者提出一种多模态潜在扩散模型,通过交叉注意力在共享潜在空间内联合合成体积 MRI 与表格临床数据,先用变分自编码器融合两种模态,再以独立解码器分别重建。该框架在德国国家队列(NAKO)超 1 万名参与者的 MRI 与年龄、性别、身体测量、族裔等表格特征上评估,生成影像具备解剖合理性与身体成分一致性,表格模态在标准指标上优于 CTGAN、与 TVAE 相当。
AdaGamma 是一个用于深度 actor-critic 强化学习的状态依赖折扣框架,通过学习有界折扣函数 γ_φ(s),并用回报一致性目标训练,避免 TD 误差目标中的退化捷径与 TD-collapse。该方法可集成进 SAC 和 PPO,在连续控制基准上取得提升,并在 JD Logistics 平台为期四周的在线 A/B 测试中获得统计显著收益。
针对 GRPO 等无 critic 算法在 RLVR 中时间信用分配过于粗粒度的问题,研究者提出选择性后继资格迹(S-trace),通过后继重要性重加权恢复 PPO 裁剪下的下游信用信号,并借助基于熵的 token 选择将其传播到选定的历史 token。
研究者推出 XL-SafetyBench,覆盖 10 个国家-语言对、共 5,500 条测试用例,包含国家情境越狱基准与文化基准两部分,并引入 Cultural Sensitivity Rate(CSR)区分原则性拒绝与未参与。
研究通过 GenAD 音频描述生成管线和 RefineAD 编辑界面,比较新手从零创作与编辑不同质量 AI 草稿的差异。GenAD 草稿将完成时间缩短一半以上并显著降低认知负荷,而简单无引导提示生成的基线草稿收益有限,表明有效辅助存在最低质量阈值。该阈值随内容视觉复杂度上升而提高,作者据此提出设计原则:AI 辅助应达到与目标内容匹配的质量阈值,而非仅仅存在。
针对组合式扩散规划在局部计划多模态时出现的模式平均问题,研究者提出免训练引导方法 RCD,用预训练扩散模型的自重建误差作为组合计划对数密度的代理,并结合重叠一致性项约束分段边界。在 OGBench 的移动、物体操作和像素观测等长时程任务上,RCD 持续优于现有方法,该工作已被 NeurIPS 2026 接收。
研究评估了 Biaffine LSTM、Stack-Pointer Network、AfroXLMR-large 和 RemBERT 四种依存句法分析器在十二种类型多样的语言上的表现,重点关注低资源非洲语言。
研究团队提出 SciSense 框架,将 LLM 科研智能体的构思阶段拆解为八个认知阶段,并构建了 12 万条引用条件研究轨迹数据集 SciSense-Traj,涵盖 Hindsight 与 Foresight 两种模式,蒸馏出 3B 至 70B 参数的 SciSense-LM 系列模型。
针对现有反蒸馏防御会留下句法不连贯、重复链等可检测痕迹的问题,研究者将反蒸馏建模为带可检测性约束的 max-min 博弈,提出 Thought Anchor RemovalS(TARS),通过移除语义冗余的思维锚点来干扰下游蒸馏,并给出可检测性的形式化保证。
研究在 DriveLM-nuScenes 上对比两种跨阶段上下文传递机制:显式变体在 4B 模型 Mini-InternVL2-4B-DA-DriveLM 上免训练使用三种提示策略。
研究提出 Stealth Pretraining Seeding(SPS)威胁模型,攻击者通过隐蔽网站散布少量投毒内容,使其被 Common Crawl 等来源吸收进未来训练语料。
CAT 是一种调用链感知的 LLM 测试生成方法,通过静态分析将调用链与依赖上下文显式注入提示词,建模调用者—被调用者关系、对象构造函数和第三方依赖,并支持生成失败时的迭代修复。
研究者提出一个混合整数线性规划(MILP)框架,为固定参数 m 和 k 精确计算 Condorcet 获胜集下界,通过将选民建模为排序分布消除了对选民数 n 的依赖。该框架证明在 k ≥ 8m/9 的线性区间内,猜想中的 2/(k+1) 上界成立,首次给出与已知下界匹配的结果,并可刻画其他社会选择公理间的关系。
UniT(Unified Latent Action Tokenizer via Visual Anchoring)通过视觉锚定建立统一物理语言,实现人到人形机器人的跨本体迁移。其三分支交叉重建机制将异构运动学映射到共享离散隐空间,在策略学习(VLA-UniT)中实现零样本任务迁移与OOD泛化,在世界建模(WM-UniT)中实现人到人形机器人的直接动作迁移。
TurboEvolve 是一个多岛进化框架,在相同 API 成本预算下提升 LLM 驱动程序进化的样本效率与稳定性。它引入 Verbalized Sampling,在单次 LLM 调用中生成 K 个候选,并用在线调度器自适应调整 K;同时通过 island-aware initialization 对种子程序聚类并做受控跨簇混合。
针对 GRPO 在多跳搜索中惩罚正确中间步骤、训练不稳定等问题,研究者提出优势校准方法 CalibAdv,利用中间步骤正确性在细粒度上缩减过大的负优势,并重新平衡正负优势以提升训练稳定性。该方法采用轻量设计,仅从标准 rollout 信号校准优势,在三个模型和七个基准上同时提升了性能与训练稳定性,代码已开源,论文被 EMNLP 2026 Findings 接收。
研究提出持续强化学习框架 TeLAPA(Transfer-Enabled Latent-Aligned Policy Archives),将行为多样的策略邻域组织为按任务划分的存档,并维护共享潜在空间,使存档策略在非平稳漂移下仍可比较和复用。
一项技术报告通过分析公开源码,拆解了 Claude Code 的架构,并与 OpenClaw、Hermes Agent 两个开源 AI 智能体系统对比。其核心是调用模型、运行工具并循环的 while-loop,周边则包含七种模式的权限系统与 ML 分类器、五层上下文压缩管线、MCP/插件/技能/钩子四种扩展机制及子智能体编排。
一篇 67 页、395 篇参考文献的综述提出以模型设计为中心的前馈 3D 重建分类法,抛开隐式场与显式图元等输出表示差异,将研究方向归纳为特征增强、几何感知、模型效率、增强策略和时序感知模型五个关键问题。该综述还系统梳理了相关基准与数据集,并对前馈 3D 模型的实际应用进行分类讨论,最后指出可扩展性、评测标准和世界建模等开放挑战。
PR-MaGIC 是一个免训练的测试时框架,通过 SAM 掩码解码器的梯度流优化提示词,解决上下文分割中支持图像与查询图像视觉不一致导致的提示词质量不佳问题。该框架可无缝集成到现有上下文分割流程中,并采用简单的 top-1 选择策略稳定性能。大量评测显示,PR-MaGIC 在多个基准上持续提升分割质量,无需额外训练或修改架构。
一篇被 EMNLP 2026 接收的综述系统梳理了 135 项关于 RAG 攻击、防御与安全评估的研究,并提出 SLOT 分类体系,沿攻击面(S)与对应防御层(L)组织,辅以目标(O)和攻击目标范围(T)两个交叉维度。研究将文献映射到外部知识访问流程后,揭示出目标错配、阶段错配和信号错配三类问题,并公开了筛选流程、论文元数据与机器可读的 SLOT 标签。
针对腿式移动操作机器人全身控制策略在传感器噪声或不可行指令下易受OOD输入影响的问题,研究者提出能力流形投影(CMP),通过帧级安全方案将无限时域安全约束转化为单步流形包含,并借助下界安全估计器和同构潜在空间实现O(1)防御。
共 2000 篇论文