Berkeley AI Research 提出 ABBEL:用信念状态监督让 LLM 高效长程交互
Berkeley AI Research 提出 ABBEL 框架,将 LLM 的交互摘要隔离为自然语言"信念状态"并加以监督,用受自编码器启发的重建式信念评分(belief grading)作为辅助 RL 任务。
Berkeley AI Research 提出 ABBEL 框架,将 LLM 的交互摘要隔离为自然语言"信念状态"并加以监督,用受自编码器启发的重建式信念评分(belief grading)作为辅助 RL 任务。
伯克利 AI 研究团队梳理了并行推理领域进展,重点分析自适应并行推理——让模型自行决定何时分解并并行化独立子任务、生成多少并发线程以及如何协调。现有方法如 Self-consistency、Best-of-N、Tree of Thoughts、MCTS、ParaThinker、GroupThink 和 Hogwild! Inference 的并行结构多由外部设定,而非模型自主选择。
OpenAI 开源其思维链可监控性工作的一部分数据集与参考代码,包含评测套件中的大部分数据集、计算可监控性指标 g-mean 2 的代码,以及一种新的交叉拟合过滤策略,仓库地址为 https://github.com/openai/monitorability-evals。
伯克利 AI 研究团队提出 GRASP,一种面向学习型世界模型的梯度规划器,通过将轨迹提升到虚拟状态实现跨时间并行优化、在状态迭代中直接注入随机性以探索、并重塑梯度让动作获得清晰信号,同时避开高维视觉模型中脆弱的“状态-输入”梯度。该方法针对长时程规划中计算图病态、非贪心结构导致局部极小值以及高维潜空间失效模式等问题,使基于梯度的规划更稳健。
伯克利 AI 研究团队提出 SPEX 与 ProxySPEX 算法,利用稀疏性、低阶性和层次性结构,将 LLM 中影响输出的关键交互识别转化为稀疏恢复问题,可扩展到比此前方法大数个数量级的规模。