LoopMol:用语义 LLM 代理实现闭环分子逆向设计
LoopMol 是一个闭环分子逆向设计框架,用 LLM 代理直接基于任务指令、SMILES 优化历史和 oracle 反馈进行推理,每轮按探索-利用原则挑选参考分子并可附一句简短引导语。
LoopMol 是一个闭环分子逆向设计框架,用 LLM 代理直接基于任务指令、SMILES 优化历史和 oracle 反馈进行推理,每轮按探索-利用原则挑选参考分子并可附一句简短引导语。
针对 MoE 模型强化学习中 rollout 与训练路由不一致导致的 router drift,研究者提出 Router Drift Control(RDC),以路由分歧作为离策略陈旧度信号,在序列级别过滤高漂移响应,避免 R3 路由重放带来的梯度偏差。
一项针对成对差异学习分类(PDC)的系统实证研究比较了四种特征编码器与四种训练对选择策略,在近 200 个基准分类数据集上以 Decision Tree、Multilayer Perceptron、Gaussian Naive Bayes 和 Support Vector Classifier 为基模型测试。
研究者提出 Step-level Self-Consistency Group Relative Policy Optimization(SSC-GRPO),通过计算多次 rollout 中单个推理步骤的自洽性分数,为推理轨迹分配步级奖励。
研究用 Claude Opus 4.8 和 Codex GPT Sol 5.6 从 Apple 二进制文件中重建 iPhone 定位服务 protobuf 的 schema,发现绝大多数 schema 存在大量错误,且因内部自洽而难以察觉,不适合直接用于取证与隐私分析。
研究提出 Amplitude Gating(AG)推理时干预方法,在不改动预训练权重的前提下屏蔽 FFN 激活坐标,通过六处 SwiGLU 位点区分共享与仅门控输入,并用幅度排序熵掩码及 Newton-Schulz 窗口排序变体提供无需重训练的前向路径。
SemDraft 是首个从成对前后服装样板中学习搜索可执行制版程序的框架,无需记录编辑步骤。它通过有界搜索恢复编辑动作程序,并需通过从头重编译、动作对有序或可互换分类、独立重放三重校验才获认证。在两组各 80 个顺序敏感案例上,学习排序器在 1000 次搜索内分别认证 63 和 64 个案例,非学习排序器最多为 53 和 52 个。
X-Alpha 是一个将持久研究记忆与假设到代码的持续发现相结合的 AI 量化研究员,通过 Report-to-Memory Abstraction(RMA)把金融报告转化为可执行的研究路径,并借助记忆驱动路由重定向探索。它在中国大陆、美国和中国香港的五个股票指数上评估,以 CSI300 为核心的实验显示其因子质量与信号多样性优于基线,并在多个市场和预测周期上取得一致的生成级增益。
针对 GRPO 类方法中"正信用污染"问题,研究者提出尾部感知信用校准方法 TACO,让策略自身作为参考,评估每个采样 token 相对策略局部预期的稀有度以计算尾部风险分数,并据此软性降低高尾部风险 token 的正信用、同时保留非零权重。在四个 LLM 和八个推理基准上,TACO 持续优于 GRPO 类基线,并提升训练稳定性,支持长程 RL 的持续性能增益。
一个设计无关的覆盖率收敛智能体在异步 FIFO、UART 发送器和 AHB2APB 桥三种 RTL 设计上,将覆盖率从 91.7%、88.9% 和 67.4% 提升至 100%,每次运行均在 8 次迭代预算内完成。
在单张 A100 上,研究对比 Muon 与 AdamW 在 17.7M、33.6M 参数语言模型和 2.70M 参数视觉 Transformer 上的表现。
研究者提出自适应数据调度(ADS),一种双层数据调度框架,在语义聚类层面自适应调整簇间采样分布,在样本层面追踪接近策略能力边界的提示词。在三个 LLM 和七个推理基准上,ADS 相比 GRPO 平均准确率提升 5.5%,并能持续改进不同目标设计的 RL 方法,源代码已公开。
研究者提出 CAPRI 数据集,用不同文化线索强度的对话测试 LLM 能否按用户文化背景使用当地计量单位。实验显示,SOTA 模型能推断文化背景并回忆相关惯例,却往往不据此调整回答,除非被明确要求按顺序执行任务。模型对时间和数量表达的适应随文化线索累积而增强,但其先验并非文化中立,有时与模型来源国一致。
研究将 Isotropic Curvature Model(ICM)的固定输入半径替换为一般径向律,提出 RR-ICM 与 Polar-Factor Admissibility Set,证明所有非标量可行响应均来自与曲率拐点对齐的径向原子,任何无原子径向律都呈现零容量刚性。
一项针对 155 名 NLP 及相关领域研究者的调查显示,44% 的受访者在自己的众包数据中观察到 LLM 使用痕迹,其中 93% 早有预期,但半数不知该采取何种防范措施。最常见的检测手段是独特的文本风格模式和异常快速的完成时间。调查表明研究社区已意识到该问题并采取措施,但现有努力仍不足以完全应对。
研究者提出 LLMSurgeon 框架,将数据混合手术(DMS)形式化为逆问题,仅凭目标 LLM 的生成文本即可在预设分类体系下估计其预训练语料的领域级分布。该方法不直接聚合分类器输出,而是估计校准的软混淆矩阵并求解约束逆问题,以纠正系统性领域混淆、还原潜在混合先验。
SimCT 通过扩大监督空间解决跨分词器在线策略蒸馏中共享 token 匹配丢弃教师信号的问题:在共享 token 之外,比较教师与学生模型都能实现的短多 token 续写,且不改变 OPD 损失形式。
研究提出 Knowledge Transfer Probing(KTP)协议,通过图像生成训练向统一多模态模型(UMMs)注入新知识,再用纯文本问答测试其可获取性。
ELLSA 2 是一个端到端全双工对话模型,可同时优化语音交互与流式手势-表情生成,在模型不说话时也能持续生成非语言动作。它采用自回归分块合成器,结合预训练声学特征与对话骨干网络、语音合成器中独立的聆听和说话隐藏状态,并通过上下文语义调用与模板引导区分语义手势的触发与实现。
研究者提出基于加权上下文影响(wICI)的指令数据选择框架,通过衡量候选样本对语义相近样本降低指令遵循难度的程度来筛选数据。在多个模型和基准上,该方法在受限数据预算下持续优于现有基线,并发现样本难度与上下文影响呈负相关。该工作已被 ACL 2026 主会接收。
MIXAR 是首个生成式多语言像素级语言模型,在八种高资源语言(覆盖拉丁与 CJK 文字)上预训练,参数规模扩展至 0.5B。它用基于 GRPO 的强化学习阶段替代此前像素模型不稳定的对抗训练,在多语言基准上把自由生成准确率最高提升 2.3 倍,并在判别式基准上与同类 tokenizer 模型持平。
LLM 后训练中对称聚合多奖励会导致聚合奖励上升但主任务性能下降,即"多奖励黑客"。研究证明对称聚合下确定性条件均值 GRPO 会收敛到偏好辅助奖励的行为,并提出 Trust-Anchored Gating(TAG),通过先选出锚定通道再对辅助奖励设门控来结构性消除该问题。
研究者提出 Span-Centric Learning(SCL),将编码知识获取与在完整文档中的应用分离,先让模型从短片段学习编码知识,再用少量标注数据学会在完整文档中运用。实验显示,该方法仅用 248 份完整文档训练,就让一个 8B LLM 超越现有最优方法,并为每个预测编码提供与人工标注高度一致的显式支持证据。分析还表明,模型能通过片段学习文档中未出现的编码知识,并将其应用于完整文档。
Writer-R1 是一套围绕归纳式评分标准生成(IRG)构建的写作训练流程,将评分标准同时用作生成引导与强化学习奖励依据,并训练出 4B 的 RubricGen-4B 为新请求自动提供评分标准。它在 4B 和 8B 基座上将 WritingBench 分数分别提升 0.182 和 0.158,HelloBench 上也有增益,消融实验显示 IRG 优于直接生成评分标准。
Memorilla 是一种面向冻结 LLM 的记忆系统,可将整个文档集合编码为可复用嵌入,并学习把查询相关信息放入模型的输入嵌入空间,仅用 16 个 memory tokens 即可完成检索。
针对 RLVR 训练中通过率为 1 的简单提示词随训练推进不断增多、压缩有效数据规模的问题,研究者提出离线数据增强方法 Composition-RL,在 RL 之前组合现有提示词,且不修改 RL 优化器。在 4B 至 30B 模型上的实验显示,其推理能力持续优于用原始数据集训练的 RL,课程变体可进一步提升表现,并支持跨域提示词组合。代码、数据与模型均已公开。
研究者提出 Latent Transition Memory(LTM),将历史存为相邻观测间的紧凑潜在转移,并在 π₀.₅ 上实例化为 LTM-π,无需记忆专用语义标注或外部推理模型调用。
研究者提出 Stochastic Truncated On-Policy Distillation(STOPD),通过随机截断学生模型的 rollout 并用分块逆概率加权(IPW)修正采样偏差,来加速 on-policy 蒸馏(OPD)。
研究者推出 MoCo,一个用于大规模执行、评测和比较模型协作算法的一站式 Python 库,涵盖 26 种模型协作方法与 25 个评测数据集。实验显示,多数协作策略在平均 61.0% 的(模型、数据)设定中优于无协作模型,最优方法提升幅度最高达 25.8%。
一项已撤回的研究显示,大语言模型无需额外训练数据即可从姓名推断族裔,在佛罗里达和北卡罗来纳选民样本上准确率达 84.7%,超过 BISG 的 68.2%。测试涵盖 Gemini 3 Flash、GPT-4o、DeepSeek v3.2 和 GLM-4.7 等六个模型,启用扩展推理可提升 1-3 个百分点,加入党派登记等元数据可达 86.7%。
斯坦福团队提出免训练多模态框架 TRACER,将视频逐分钟动作记录与临床记录合并为小时级报告,并让 LLM 智能体通过工具查询该层级结构、调取相关视频与病历。在 397 段标注视频上动作检测准确率达 84.8%,144 道临床多选题 QA 准确率 61.0%,优于同骨干最强基线的 49.3%。
研究者提出 FPoT,一种基于 √2(半倍频程)的分数次幂网格量化方法,可在保持全整数移位加法数据通路的同时实现实用的 4-bit 权重量化。在 Llama-3-8B 的 4-bit 权重与激活量化下,FPoT 相比 PoT 基线将零样本常识推理性能提升 8.72%,与均匀整数基线仅差 0.4 个百分点。
研究者发布 Chronoberg,一个取自 Project Gutenberg、覆盖 250 年英文书籍的时序结构化语料库,并附带时间标注与 Valence-Arousal-Dominance 情感词典。基于该词典的分析显示,现代 LLM 工具难以处理词义随时间发生的历时变化,在情感语境化和歧视性语言检测上表现不佳。Chronoberg 已在 HuggingFace 公开,代码同步开放。
研究者提出 FACTGUARD 多任务工作流及 FACTGUARD-BENCH 基准,包含 25,220 个样本、上下文长度最高 128K,针对证据缺失与误导性证据场景。对 11 个开源与闭源 LLM 的评测显示,随上下文增长模型难以拒绝不可回答问题,最佳模型准确率仅 71.62%;用该基准训练后整体准确率提升至 81.17%。
FedSumUp 在客户端部署可学习的有损压缩器,生成紧凑且可视化可解释的表征,通过控制信息容量降低隐私泄露并让用户直接评估隐私-效用权衡。
研究者提出知识蒸馏方法 LLMR,用大语言模型诱导出的奖励函数指导学生模型训练。在对话生成和摘要等多个数据集上,LLMR 的表现持续优于传统知识蒸馏方法。该工作已被 LREC-COLING 2024 接收。
研究者发布 MBBQ(Multilingual Bias Benchmark for Question-answering),将英文 BBQ 数据集扩展至荷兰语、西班牙语和土耳其语,并配套平行控制数据集以独立测量问答任务准确率。
基于 Qwen3-VL-8B 的双视图模型将线图与归一化延迟嵌入结合,在 TSRBench 上把整体准确率从单用线图的 44.5% 提升至 53.2%,超过最强专用 TSLM 基线的 36.7%。该模型在 TSExam 上达到 89.9% 准确率,在多变量 ChatTS 对齐上取得 86.8% 数值准确率。消融实验显示,两种视图组合在预测与推理任务上的增益尤为显著。
研究者提出 Librarian Agents 框架,让 builder agent 将原始文档转化为合成文件与引用链接构成的分层文件系统,并通过强化学习直接优化下游回答准确率。该方法在 BrowseComp-Plus 上比最强检索与预计算基线高出 33 个百分点,在 BRIGHT 上零样本跨域平均准确率提升 31 点,且构建成本可分摊到多次查询。
DST-Net 提出一种分解式时空网络,针对趋势分量和季节分量分别设计建模策略:趋势分支用 Latent Graph Block 捕捉跨通道的全局拓扑依赖与系统级联动,季节分支用 Gaussian Multi-scale Attention 抑制注意力分散、聚焦多粒度局部上下文。该模型在多个真实世界基准上验证了有效性,已被 WCNCA 2026 接收。