arXiv cs.AI· Jonathan Geuter, Andrew Cheng, David Alvarez-Melis·· 3 天前AI 评分50
无需额外训练即可超越 Jev：开放决策模型的简单微调方案
Releasing the Inner Jev: A Simple Recipe for Open Decision Models
AI 导读
研究者发现，开放指令微调语言模型无需额外训练，仅通过读取最后一个 token 位置输出 logits 中 A、B、C 等字母的概率，即可实现与 Jev 相当的决策性能。
正文 · AI 翻译
摘要：基于 LLM 的决策系统，也称为 System One 模型，最近越来越受欢迎，最引人注目的是通过 Jev（Almeida, 2026）。给定一个带类型的输入状态、一个问题以及一组选项，它们在单次前向传播中为每个选项返回一个概率，而无需生成文本。我们表明，现有的开放指令微调语言模型可以\textit{在无需任何额外训练}的情况下达到相当的性能，方法是在最后一个 token 位置从模型输出 logits 中读取字母（A、B、C 等）对应的答案。此外，我们展示了一个简单的监督微调配方如何进一步提升它们的性能。我们评估了四个开放指令微调语言模型：Gemma 4 31B、Gemma 4 12B、Qwen3.6-27B 和 Qwen3.5-4B。我们使用 LoRA 以及从语言模型 head 的一个切片初始化的决策 head 对每个模型进行微调。此外，我们引入了 OpenDecisions，这是一个新颖的包含 2,352 个问题的验证数据集，旨在反映 JevBench（JevBench 维护者, 2026）的任务构成，并基于准确率和校准指标计算 Capability 分数。在未经微调的情况下，Gemma 4 31B 在 OpenDecisions 上得分为 79.6，而 Jev 为 80.1。经过我们的微调配方后，它在 OpenDecisions 上得分为 84.4，在 JevBench v1.7 上得分为 81.5，分别以 4.3 和 4.4 个 Capability 分超过 Jev，并在 OpenDecisions 上创下新的最先进水平。在一系列公开决策数据集上，我们的模型达到了与 Jev 相当的准确率，且校准误差更低。我们的结果表明，开放语言模型已经具备 System One 能力，并且通过简单的微调，它们在广泛的决策任务上超过了 Jev。我们发布了我们的模型、服务代码和 OpenDecisions。
| 评论： | 23 页，5 幅图 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.17205 [cs.AI] |
| （或 arXiv:2610.17205v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.17205 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Jonathan Geuter [查看电子邮件]
[v1]
2026 年 10 月 12 日星期一 17:59:37 UTC（100 KB）
来源：arXiv cs.AI · arxiv.org