Loose Lips:Agentic 对话中的隐私泄露研究
研究者将 CIMemories 扩展为 CIMEMORIES DIALOGUE,一个基于 Contextual Integrity 理论的 4,410 组双智能体对话基准,并据此评估 Qwen3 与 Llama 3.1 家族的 7 个开源权重模型。结果显示任务能力与隐私泄露根本耦合:能力越强的模型泄露越多,思考型模型比非思考型泄露更多,对话从 1 轮增至 6 轮时泄露最高上升 3 倍。
研究者将 CIMemories 扩展为 CIMEMORIES DIALOGUE,一个基于 Contextual Integrity 理论的 4,410 组双智能体对话基准,并据此评估 Qwen3 与 Llama 3.1 家族的 7 个开源权重模型。结果显示任务能力与隐私泄露根本耦合:能力越强的模型泄露越多,思考型模型比非思考型泄露更多,对话从 1 轮增至 6 轮时泄露最高上升 3 倍。
研究用 LLM 程序搜索智能体为 Bermudan 期权生成 Python 执行策略,并以对偶上界 U 与 Monte Carlo 估计审计其有效性。对两条流水线共 24 次生成尝试的审计显示,没有选中的生成程序能稳定超越 Ridge LSMC,或超出 Monte Carlo 误差范围,留出集差距分数与其相差在 0.002 以内。
一篇 arXiv 论文指出,形式化是 AI 驱动计算与理论物理发现的关键层,AI 正在降低物理形式化的门槛并提升效率,但在选择定义和设计库方面仍弱于写证明。论文强调,AI 带来的速度目前以信任、署名和社区为代价,Physlib 等社区评审的形式化库应成为核心基础设施;物理形式化还面临数学之外的挑战,即已检验的证明无法保证其定义忠实反映目标物理。
研究者提出 RSSM-RLPD,让 NAO 机器人在无外部动捕或摄像头的情况下,仅靠机载无迹卡尔曼滤波(UKF)估计状态,学习带球射门。该方法用循环状态空间模型(RSSM)学习新状态表示,且仅在观测到球时修正隐状态。经过 30 分钟真实世界交互,机器人从多个起始位置学会射门,成功率达 100%,而同等训练预算下的前馈策略为 0%。
该论文从占用空间(occupancy space)视角重新审视逆强化学习中的奖励更新,发现沿 e-geodesic 的几何结构直接影响 IRL 对偶问题在奖励参数空间中的梯度。
研究者提出 PLDiv,一种基于持久景观(persistence landscapes)的多样性指标,从数据集的几何表示量化其结构组织,无需任务特定监督即可输出可解释的结构多样性标量。在文本生成与图像嵌入的内在多样性度量、以及指令数据集和推理轨迹的语义坍缩检测中,PLDiv 表现优于所评估的基线,并在语义坍缩时与多样性标签高度一致。该指标可支持合成数据监控、数据集构建、数据增强与生成模型评估。
研究提出"块状共形注入"方法,将循环 Transformer 的残差拆分为坐标对齐的组并在各组内旋转,使每组拥有独立时间尺度而组内几何保持精确。实验显示该方法在末 token 准确率这一状态追踪任务和语言建模上均取得性能提升。论文被 NeurIPS 2026 Workshop "Transitioning from Pre-Training to Post-Training" 接收。
研究提出 SCUR(Structured Cross-fitted Uncertainty Risk),一种无需标签、基于评审面板行为估计实例级评估可靠性的方法。
研究者提出组合式数据选择(CDS)框架,将样本评分与子集选择分离,并建模样本间的非加性交互。基于跨域互补性发现,他们提出 Mixture-then-Select 两阶段算法:先决定各域采样数量,再按归因分数排序。该方法在真实指令微调数据池上超越强基线 20% 至 54%,且在不同模型和数据池规模下均保持稳健。
研究者提出 Contrastive Covariance Steering(CCS),一种无需训练的激活引导方法,通过求解对比方差目标以闭式解将引导向量投影到低维子空间,保留目标概念变化方向、抑制与其他类别共享的方向。
研究者提出在线策略机制蒸馏(OPMD),通过先构建与学生兼容的教师模型,将教师中间表示转化为学生下游计算可用的状态,再在在线策略轨迹中内化这些状态,从而在输出监督之外实现机制级监督。在三种教师-学生设定中,OPMD 的平均准确率均高于所评估的蒸馏基线,并可泛化到多教师蒸馏和跨家族监督微调。分析显示,机制监督能带来更有效的推理,并显著改变学生的中间计算与解题策略。
CoEvoke 是一个跨域框架,通过可控扰动制造可恢复的困难、并用受限参考引导调查,在轨迹收集阶段激发多智能体的检查、反馈与修复交互。该数据集包含 4,130 个软件工程与推理任务上的 4,567 条可重建轨迹;在 2,287 对同任务实验中,七个扰动组的反馈提升达 47.72-100 个百分点。
研究团队推出 LabInstruct,一个面向真实实验室的实景教学视频生成基准,涵盖 5 个学科、204 项任务,配有真实参考执行及物体、动作、接触和状态转换的结构化标注。对 8 个前沿图生视频模型的评测显示,视觉上逼真的生成结果往往在流程上并不正确,暴露出视觉真实感与实验教学可靠性之间的显著差距。
研究者提出 RoboHarness,一个为 LLM 智能体提供视觉-几何控制面板的机器人框架,使其能直接理解并调用具身任务。作者称借助该框架,Qwen3.8-Flash-Next 在 BEHAVIOR Challenge 2025 任务上超越了当前最先进的 VLA 模型,实现将开源。论文认为编码智能体有潜力实现通用具身操作,无需按传统路线收集机器人动作数据并训练大规模 VLA 模型。
研究者提出 Barycentric Anchored Search,一种无需梯度训练、不增加推理成本的事后权重空间方法,仅用两个微调检查点即可提升视觉模型在分布偏移下的鲁棒性。
研究对比了无标签的遗传多准则排序(Pikaia 策略变体)与 LightGBM、XGBoost、RankSVM 等标签训练 LTR 模型在 MSLR-WEB10K、Baidu-ULTR、WANDS、Expedia 上的偏差鲁棒性。
研究者提出物理信息状态空间框架 PowerMamba,将可微分光伏转换模型与选择性状态空间骨干结合,通过物理残差分解预测日前光伏功率。在一年公用事业规模光伏数据上,该方法较纯物理基线 RMSE 降低 38.5%、MAE 降低 45.8%,并优于纯数据驱动模型。系统级物理约束带来最大性能增益,同时可将预测约束在物理可行范围内,减少损坏测量下的非现实预测。
研究者提出 GF-Bench,一个基于 PyTorch 的框架与数据集,用于在分布式 GPU 工作负载中生成故障,当前版本包含 220 条带标注的双 GPU 执行记录,覆盖正常运行、CUDA 显存不足 fail-stop 故障和持续性拖尾 fail-slow 故障。
一项基于算法信息论与通用预测理论的分析表明,任何可计算模型都无法在统一意义上逼近 Solomonoff 归纳:每个模型都有其永远学不会的廉价环境,且任何一致可计算的全预测器族都存在一个环境使其成员在随索引增长的视界之外失败。
研究者提出一种简单 harness,反复提示编码 LLM 根据标注样本生成规则集中的下一条规则,从而从数据中学习可解释模型。该方法在表格数据上与 SOTA 规则学习方法相当甚至更优,在小训练集上优势明显,在文本任务上大幅领先,包括击败另一个基于 LLM 的规则学习器。由于编码智能体不受高度受限假设空间约束,该思路还直接催生了新型可解释模型,并引入“构建可解释分类器”这一新编码基准类别。
研究者提出一个贝叶斯模型来刻画"通过演示进行教学",指出演示者有意教学(展示)与单纯执行任务(执行)时行为存在显著差异。两项人类实验表明,参与者的教学行为与模型预测一致,且标准 IRL 算法在从"展示"中学习时表现更优。
PreSO 通过紧凑提示限制特权信息中的题目细节,并从跨问题表示偏移中估计低秩子空间,将特权修正投影后叠加到学生表示上作为蒸馏目标。在五个竞赛级数学基准上,PreSO 在 Qwen3-1.7B、4B、8B 上平均准确率较基座模型分别提升 6.8、9.0、10.0 分,且各规模最终 checkpoint 平均成绩均为最高。
VH-GPO 通过结果验证的师生交接机制,在教师修复学生失败轨迹后选择最早可独立确认的交接点,让成功经验重新由学生生成。在 Qwen2.5-1.5B 上,ALFWorld 成功率从 GRPO 的 59.38% 提升至 94.79%,WebShop 从 71.62% 提升至 77.34%,7B 学生同样有效。
SemTree 将规则决策表示为语义决策树,每个节点是带明确 Yes/No/Unknown 标准的自然语言问题,由可插拔语义 judge 回答,分支结构按该 judge 的实际回答编译。
该论文提出一种混合强化学习交易框架,将日内市场数据与基于Transformer的金融情绪信号结合,从财经新闻中提取情绪动态和语义事件聚类,并融入PPO交易智能体。在NSE日内数据上的实验显示,其风险调整后收益优于仅用价格的基线。论文已被ICAIA 2026接收。
SharedSAE 为 SDXL 1.0 学习了一个跨四个 U-Net 注意力模块和全部 50 个去噪步共享的稀疏字典,通过块特定低秩输入适配器与时间条件模块吸收时间非平稳性。基于该字典的局部特征抑制将 I2P 检测器阳性子集中 NudeNet 阳性生成数从 139 降至 1。追踪稀疏特征还发现,概念表示在生成过程中从最早的降采样模块向中间及更晚模块重新分布。
SPLICE 将验证与修复移出训练循环,改为离线数据生成:第二个模型仅凭参考解,在推理模型生成轨迹时验证进度、在最后已验证步骤截断失败轨迹,并拼接自适应增强的提示直到恢复进展。用 SPLICE 轨迹微调的模型在 AIME 上超过用未编辑轨迹蒸馏的同一模型,并在经人工评分验证的评分协议下于奥赛证明上同样更优。该模型轨迹在难点处会以拼接提示的风格宣告分支并采取更高风险步骤,预测熵随之上升。
GameSmith 通过让 LLM 在模板内合成游戏来扩展零和自博弈训练,从三个 SPIRAL 模板生成 29 个游戏家族中的 26 个新游戏和 336 个已验证变体,每个游戏经种子配对回放和独立重实现验证。
研究者提出 Posterior Flow Matching(PFM),用高斯后验模型同时学习条件速度均值与逐分量方差,使单次模型评估即可给出传输预测和端点不确定性。该方法支持均值驱动的 ODE 与后验驱动的 SDE,后者局部噪声尺度随预测不确定性自适应调整。在图像、点云、分子和动作生成任务上,PFM 提升了生成质量,并可在整个生成过程中读取端点后验信息。
研究者提出可编辑的 Improvement Dynamics Model(IDM),让自进化智能体在评估前预测修改的任务级结果并指导修订,评估后再用历史修改与结果迭代改进 IDM。基于 HyperAgents,该方法在多语言编程、论文评审、机器人奖励设计和奥赛级数学评分四个领域均优于 HyperAgents,平均性能提升最高达 46%,且在匹配 token 预算和留出任务上依然有效。
MRFlow 将虚拟细胞预测建模为单细胞经验分布间的条件传输,通过流匹配向量场把对照细胞群输运至扰动细胞群,场分解为机制结构化仿射字典与谱控残差场。基因扰动经调控图 GCN 编码,化学扰动经 Morgan 指纹编码,二者共用同一条件动力学接口。在八个基因与药物扰动基准上,MRFlow 取得最高综合得分,同时在差异表达与分布指标上保持有竞争力的原始表现。
一篇综述用信息论统一视角串联多模态学习,将互信息(MI)、信息瓶颈(IB)与部分信息分解(PID)视为逐步细化的信息处理层次,分别刻画模态间依赖、任务导向的信息压缩保留,以及冗余、独有与协同信息的分解。
研究者提出激活条件选择性知识控制方法,通过神经元级梯度操作让 GUI 智能体在应用流上持续学习:对未激活神经元截断梯度以防干扰,对激活神经元做正交投影以兼顾稳定与适应,并在每阶段合并新识别的关键神经元。在多应用顺序基准上,该方法有效缓解了对旧应用的灾难性遗忘,同时保持对新应用的适应能力。
研究发现 ReLU MLP 在模加法任务中学习到的是近二值方波输入权重,中间值权重仅出现在符号变化边界附近,输出权重的傅里叶相位满足 φ_out = φ_a + φ_b 关系,该关系在噪声数据上训练、模型未能 grok 时依然成立。
研究团队提出情感分析框架 EmoXpt,用于评估人类对生成式 AI 的情绪态度以及 ChatGPT 回复中的情感表达。基于提及 ChatGPT、OpenAI、Copilot 和 LLM 的推文分析显示,LLM 生成的回复比人类回复更高效、连贯,且情绪始终更积极。
研究者提出子图感知训练框架 SATKGC,通过子图感知 mini-batching 鼓励难负样本采样并缓解实体出现频率不平衡,同时引入新的对比学习机制,让模型更关注结构属性上更难的批内负三元组和正三元组。该工作称首次将知识图谱的结构归纳偏置全面融入 PLM 微调,在三个 KGC 基准上验证了优越性,代码已开源。
AesCode 通过将同一提示词生成的图像作为美学引导,让代码模型生成幻灯片、海报、仪表盘等视觉产物的代码。该方法用设计图表示整个画布,并从中导出解耦的跨模态奖励:确定性验证器评估可从代码和渲染中解析的属性,VLM 评判器则用样本专属的 Visual Graph Rubric 评估不可解析属性,再通过强化学习与逐通道归一化联合优化。
研究者提出多轮反馈引导(MFG)分子优化框架,用强化学习训练 LLM 基于前几轮反馈逐步优化分子,并引入反馈向量与反馈对齐奖励函数。该方法应用于多目标分子优化模型 GeLLM³O,在十项任务上,GeLLM³O-MFG 取得最高平均相似度约束成功率 81.50%,高于基座模型 GeLLM³O 的 70.81%。
一项 arXiv 综述提出 Physical Recursive Self-Improvement(Physical RSI)概念,即物理经验能持续更新机器人能力及其改进流程,使后续改进更高效。
研究提出 Harness 自进化框架,在保持模型权重不变的前提下,对智能体的提示词、记忆、工作流和可执行组件等软件脚手架进行修订,并让被接受的修订跨运行持久化。
共 2000 篇论文