无需微调的 TFTV:用前向统计实现 LLM 行为控制
研究者提出 Training-Free Task Vectors(TFTVs),无需微调即可计算类任务向量方向,仅用前向传播统计将激活引导向量映射为秩一权重空间编辑,并支持加法学习、减法遗忘与多编辑组合。在 LLM 行为控制任务上,TFTVs 能持续放大、抑制和组合目标行为,同时保留通用知识与解题能力,相比其他编辑与引导基线实现了更强的特质控制与更优或相当的效用保持。代码已在项目网站公开。
研究者提出 Training-Free Task Vectors(TFTVs),无需微调即可计算类任务向量方向,仅用前向传播统计将激活引导向量映射为秩一权重空间编辑,并支持加法学习、减法遗忘与多编辑组合。在 LLM 行为控制任务上,TFTVs 能持续放大、抑制和组合目标行为,同时保留通用知识与解题能力,相比其他编辑与引导基线实现了更强的特质控制与更优或相当的效用保持。代码已在项目网站公开。
研究者提出 Power-Law Entropy Search(PLES),一种基于多保真度贝叶斯优化的计算成本感知采集函数,通过自适应实验高效估计最优超参数缩放律。
研究者提出 DroneCATS 基准,让 MLLM 通过四类动作直接控制无人机,覆盖目标可见性、目标运动、场景与模拟器变化,并扩展至真实无人机、多无人机及"指挥官+子智能体"套件,评测了十款从前沿到小型开源的 MLLM。
Tail-Replay 是一种面向混合大语言模型的前缀缓存机制,通过只缓存全注意力 KV cache、省略循环状态检查点,在缓存命中时重放匹配前缀的短近期后缀来重建线性注意力状态,从而实现无约束的 token 级前缀复用。
INTERVenE 是一族以知识驱动时间抽象(KBTA)为输入的 Transformer 架构,用命名临床概念(状态、趋势、事件、上下文)的 token 流替代原始测量三元组,使逐 token 归因可直接对应临床概念。
研究者提出 ICON(Independent Canonical cONcepts),将捷径审计重构为对中间表示方差的分解,量化每个概念在控制其他概念与结果后对某层方差的贡献,并报告未被解释的方差。在含真实标签的模拟数据中,ICON 比七个基线更准确地还原概念重要性;在皮肤癌与神经影像应用中,它能区分已学到的捷径与仅相关的概念,并经独立验证确认。
一项研究通过 Reddit 讨论、21 位从业者访谈(含 8 位工具开发者)和 SpecMine 语料库(73,030 个 GitHub 仓库的 470,795 个 spec 文件)考察了规范驱动开发(SDD)的实际使用情况。
ValueFormer 是一个策略无关的因果 Transformer(3.5M 参数),基于冻结的 DINOv3 骨干,单次前向即可输出平滑的蒙特卡洛价值与尖锐的二值价值两路逐帧信号。
针对 GPU、NPU 等加速器内核生成中大量"近失"候选被丢弃的问题,研究者提出领域专用调试智能体,通过检索模式、诊断插桩、反作弊检测与收敛保护实现自主修复。其 Debug Pass@1 达 66.7%,高于重新生成的平均 Pass@1 25.9% 和 Pass@3 40.7%,且每次成功消耗的 token 比三次重新生成少 92.8%。
研究者提出"先补齐再进阶"(FBA)的能力缺口驱动后训练路线,先发展前置能力再做场景适配,并构建覆盖 RGB、SAR、PAN、NIR 的三层数据集 CPRS 与八轨基准 HarborEval。
研究者提出视觉对比自蒸馏(VCSD),将图像内容擦除转化为 on-policy 自蒸馏信号:EMA 教师在同一提示词和前缀下分别基于原图与内容擦除对照生成两个 next-token 分布,用其逐 token 对数概率差锐化教师分布并蒸馏给学生。
一项在合成 Lean 策略预测基准上的研究发现,电路提取的结论取决于报告的是哪种电路以及如何提取和比较。同一 Transformer 的稠密与权重稀疏检查点间,组件连接重叠度低、有时接近随机基线;而 RL 在组合证明上的最大准确率提升,伴随组合电路中最多的组件落在对应原子电路之外,消融这些额外组件会降低组合准确率。作者据此提出电路提取研究的报告规范。
BeatEdit 是首个基于显式编辑操作的符号音乐生成框架,把生成重构为在草稿上编辑而非从零合成。它沿编辑密度递增轴整合了逐 token 序列标注纠错、迭代精修伴奏编辑和 tag-then-fill 片段补全三种机制,共享同一编码与预训练骨干,在三项任务上精度与感知质量均超过自回归和扩散方法,单次推理耗时不到 100 ms。
该研究提出 AirPASS,一个面向配备多波导 Pinching 天线系统(PASS)接入点的空中联邦学习(AirFL)交替优化框架,在聚合失真低于预设阈值的前提下最大化被选中设备数量。
研究者提出 LCPNet,一种在潜在空间进行展开的红外小目标检测网络,验证了低秩先验在潜在表示中依然有效,避免中间状态反复压缩。其 Latent Consistent Proximal 求解器让每个潜在变量从上一状态演化,并通过任务自适应归一化与增益控制稳定小目标更新;Shared Optimization Memory 为各分解变量提供跨阶段协同引导。
研究者提出 MemSyco-Bench,一个评测 Agent 系统中记忆诱发谄媚行为的基准,覆盖五项任务:判断 Agent 能否拒绝将记忆当作事实证据、遵守记忆的适用范围、解决记忆与客观证据的冲突、跟踪记忆更新,以及用有效记忆做个性化。现有记忆基准只关注记忆是否正确存储、检索或更新,忽略了检索到的记忆如何影响下游推理与决策。相关资源已向社区开放。
研究首次系统探索了 LLM 代码漏洞检测中的认知启发式偏差,通过固定代码、仅改变上下文的方式,在三种编程语言上评估了八款 LLM。结果显示所有模型均受影响,框架效应平均敏感度最高达 33.2%,锚定效应 23.5%,光环效应 18.4%。概念验证的黑盒认知攻击可抑制高达 97% 的已检测漏洞。
Looped Transformer 在训练序列长度之外进行外推时方差较高,研究将其归因于序列长度与循环次数之间的伪相关。训练时引入随机循环次数可显著降低 OOD 方差,而 RL-Halting 作为可学习随机调度通常能改善准确率与稳定性的权衡。在二元加法、Dyck-1、Unique Set 和 Copy 任务上,学习式随机停止有时也会稳定次优计算,表明"何时停止"应作为训练时设计选择。
研究提出 Play2Perfect,一个通过多样化物体与目标上的"玩耍"进行任务无关预训练的 RL 框架,再微调适配精密装配。该先验比从零 RL 训练的样本效率高 33 倍,即使后者提供密集多阶段奖励。方法实现零样本 sim-to-real 迁移,在 0.5 mm 接触间隙的紧密插入任务上成功率达 60%,长时程多部件装配和拧螺丝成功率超 50%。
研究者提出 MIRAGE,一种视觉间接提示注入框架,可在仅控制广告位等受限区域的第三方威胁模型下劫持 Web 智能体的下一步动作。该方法用扩散模型生成感知上自然的对抗图像,并结合曲率感知对抗扩散引导与稀疏暗像素残差扰动优化攻击效果。在 SeeAct 和 OpenClaw 上的评测显示其攻击有效、真实且隐蔽。
VOiLA 是一个为 POMDP 智能体学习任务无关世界模型并做在线规划的框架,用条件扩散模型学习状态转移与观测采样器,并将扩散采样器蒸馏为紧凑前馈生成器,采样成本最多降低近三个数量级。
论文提出 ANEForge,一个无需 CoreML 即可直接编程 Apple Neural Engine 的 Python 包,将惰性张量图编译为单个 ANE 程序,并通过与 Apple 内部框架相同的 ANE daemon 和内核驱动栈派发。
SecureClaw 是一种双边界架构,在可信执行器中强制授权,并将原始敏感数据隔离在 LLM 运行时之外。敏感读取经可信网关替换为引用 ID,写操作遵循 PREVIEW→COMMIT 协议,仅可信执行器可执行经策略授权的请求。
研究提出将 LLM 剪枝校准视为"能力覆盖"问题:在 60% 稀疏度下,平均常识准确率仅差 2.85 分的策略在代码保留率上相差 51.9 分,且 15 个数据源中无一能保留全部能力。
研究者推出 Moment-Video 基准,用于评估视频 MLLM 对瞬时视觉事件的时间保真度,包含 1,000 个人工核验的视频问答对,覆盖 7 个领域、25 个子类及四类任务。在 34 个专有与开源 MLLM 的评测中,表现最佳的 Seed-2.0-Pro 总体准确率仅 39.6%,多数开源模型低于 25%。诊断显示,即便采样帧覆盖全部标注事件区间,模型仍存在大量错误,且视频越长性能越差。
ChaosBench-Logic v2 是一个包含 40,886 道题、覆盖 165 个动力系统、27 个 FOL 谓词与 78 条公理边的基准,并配套 CARE 评估协议。
研究者提出 CAIA 框架,通过认知引导的自适应模糊机制与信息约束对齐方法提升 EEG 视觉解码性能。该框架在视觉侧模拟选择性注意力降低冗余,在 EEG 侧结合神经振荡先验与信息瓶颈启发的频谱稀疏正则化提升信噪比,并引入分布感知边界校准损失修正离群样本对齐偏差。实验表明 CAIA 在零样本脑到图像检索中显著超越此前方法,提升被试依赖与被试独立场景下的平均 Top-1 和 Top-5 准确率。
论文提出语言智能体控制(LBAC),一种将编程语言与语言安全技术引入智能体控制的新编程模型,要求智能体生成在脚手架代码上下文中类型良好的程序,不安全程序在执行前即被类型检查器拒绝。该模型保留表达能力,智能体可执行任意无副作用计算并递归调用子智能体,子智能体在相同或更严格策略下保留完整工具访问权限。论文通过文件系统能力实现 I/O 沙箱、数据溯源和信息流控制三个案例研究进行演示。
FinPILOT 是一个受 MPC 启发的插件式推理时策略优化框架,利用多步价格预测器在每步决策前优化预训练策略,无需改动原始 RL 训练流程。在 DJ30 股票与外汇数据上,用 PPO、SAC、A2C、TD3、DDPG 五种预训练策略测试 30 种设置,28 种提升总回报、27 种提升 Sharpe 比率。预测误差越小,FinPILOT 的性能提升幅度与一致性越高。
研究者提出持续学习框架 CRAFT,冻结 LLM 权重,改为在隐藏表示上学习低秩干预。相似任务共享同一干预以促进知识迁移,任务相似度由各任务对模型输出分布的改变程度判定;共享干预内用 KL 惩罚约束新任务贴近既有行为以限制遗忘,最深层的小型任务私有干预则保留后续任务无法覆盖的专属容量。在多个基准和模型规模上,CRAFT 整体表现优于强 LoRA 方法并减少遗忘,且对任务顺序保持稳健。
一项针对 LLM 隐私的消融研究统一评估了成员推理(MIA)、属性推理(AIA)、数据提取(DEA)和后门攻击(BA)四类代表性攻击,发现各自敏感因素不同:MIA 强依赖数据集特征与攻击策略,AIA 受模型与训练特征影响,DEA 随模型规模和训练数据重复度上升,BA 则始终保持高成功率。
TensorDex 是一个无损、以张量为中心的存储系统,在张量粒度上做 delta 压缩,用紧凑的位级指纹预测张量对的可压缩性,并将张量增量组织成多中心聚类以选取有效基模型。
InverFill 是一种面向图像修复的一步反演方法,通过将输入掩码图像的语义信息注入初始噪声,解决少步扩散模型因随机高斯噪声初始化导致的语义错位与保真度下降问题。该方法无需训练修复模型,仅以语义对齐噪声驱动少步文生图模型的混合采样流程,在低 NFE 下显著优于原始混合采样,甚至媲美专用修复模型。InverFill 无需真实图像监督,仅增加极少推理开销,已被 CVPR'26 主会议接收。
研究者提出 LLM 原生标记语言 LLMON(LLM Object Notation),用于向 LLM 传递文本的结构与语义元数据,可应用于模型训练、提示和推理实现,以提升模型准确性、安全性与安全性。该工作讨论了 LLM 原生标记语言的设计要求,并给出 LLMON 在训练与推理两类用例上的初步实证证据。
一项研究比较了词汇非覆盖度、冻结编码器相似度统计、难度代理等信号,在 BM25、稠密、LLM 生成及混合来源的 MS MARCO 训练数据上对稠密检索器迁移的追踪能力。在三个检索器骨干和十一个 BEIR 数据集上,IDF 加权的平均词汇残差性复现了全部六组骨干与设置块的迁移排序,而语义统计量均无法恢复完整排序,与词汇信号结合也未提升排序一致性。
研究者提出 RMBench,一个包含 9 个操作任务的仿真基准,覆盖多个记忆复杂度层级,用于系统评估机器人操作策略的记忆能力。同时提出模块化策略 Mem-0,通过显式记忆组件支持受控消融实验,并在仿真与真实世界实验中揭示了现有策略的记忆局限及架构设计对记忆表现的影响。
ReText 通过微调 VLM 为多摄像头数据集补充文本描述,并以文本监督训练,在跨域行人重识别基准上显著超越 SOTA。该方法联合优化 Re-ID、图文匹配和文本引导的图像重建三项任务,并采用单摄像头数据训练策略,同时利用其附带的文本标注。扩展后的数据集与 VLM 权重已公开,成果被 WACV 2027 接收。
研究者提出 Product Interactions 代数形式化方法,将乘法而非线性变换作为架构的基本操作,统一了卷积、注意力、状态空间和等变模型。该框架将卷积和等变网络推导为对称约束的一阶乘积交互,把 Mamba 恢复为自交互阶从一增至三,并将注意力确立为三阶交互。基于此构建的简化代数动力学层在 CIFAR-10 上同时提升了准确率和吞吐量,优于 Mamba。
VDE Bench 是一个面向中英文文档图像指令编辑的评测基准,包含 3,506 个样本,其中文本区域编辑 1,578 个、表格区域编辑 1,928 个。该基准将编辑指令与参考图像配对,并附有标注编辑区域和结构化 OCR 输出,评测协议结合区域级与整页测量,考察文本正确性、结构保真度和视觉内容保持。
研究通过 Tug-of-War(TOW)原理探讨最小决策与上下文概率的联系,推导出上下文概率所需的最小语义修复,并确定信息效率、校准与组合一致性选择上下文统计量的条件。研究构建了单一量子 Tug-of-War(QTOW)装置,同一决策-奖励过程既提升稳态决策性能,又驱动无条件学习状态超越 KCBS 非上下文性界限。基于该装置恢复操作的有限诊断还给出了修正的上下文性见证。