arXiv cs.CL· Nischay Dhankhar, Alisher Amantay, Zhanibek Datbayev, Darkhan Akhmetov, Yash Shah, Nurmukhamed Ubaidullayev, Raman Saparkhan, Dos Baha, Abulhair Saparov·· 11 小时前AI 评分58
Drex：面向基础决策模型的四个开源决策模型
Towards Foundation Decision Models: Drex
AI 导读
论文提出 Drex 系列四个开源决策模型，参数量分别为 8B（DLM）、9B（v1.5）、35B 激活 3B（v2.0）和 27B（Max），输入状态与选项后直接返回选项上的概率分布，无需自回归解码。
正文 · AI 翻译
摘要：基于大语言模型的自回归方法，例如长链思维推理，已成为新 AI 应用的默认选择，因为它们在广泛任务上能达到更高准确率。然而在生产环境中，它们给出的答案不一致，需要对输出进行解析，并增加成本与延迟。决策模型解决了这一问题：给定用户提供的问题和一组选项，它们无需自回归解码即可返回选项上的概率分布。我们提出 Drex，一个包含四个开放决策模型的系列，参数量分别为 8B（DLM）、9B（v1.5）、35B 且激活 3B（v2.0）以及 27B（Max）。每个请求由一个状态（文档、记录或智能体上下文，可选包含图像）以及关于它的问题组成，每个问题要求在选项中选择一项、做出是/否判断，或在有序量表上打分。训练结合了监督微调与基于调整反馈的强化学习（RLAF），并为 Max 加入了视觉调优。消融实验表明，RLAF 提升了准确率，一致性损失提升了对选项顺序的鲁棒性。在 Decision Index 0.4.1 上，Max 在我们比较的决策模型中创下新的最优结果（公开套件上为 67.52，而 Jev 1.14.0 为 60.70）。在 Decision Bench v4 上，它与 d3-turbo 和 GPT-6 Sol 在统计上持平，落后 Claude Opus 5.5 1.6 分，并且在 DecideBench 上拥有决策模型中最高的准确率。Max 回答一个典型请求耗时 183 毫秒，而 GPT-6 Sol 约为 2.0 秒，Claude Opus 5.5 为 3.5 秒，并且其输出在选项重排序下保持稳定。四个模型均为开源：this https URL
| 评论： | 51 页，13 幅图，25 张表。模型与代码：this https URL |
| 主题： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2611.07854 [cs.CL] |
| （或 arXiv:2611.07854v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2611.07854 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Nischay Dhankhar [查看邮箱]
[v1]
2026 年 11 月 5 日星期四 11:31:13 UTC（221 KB）
来源：arXiv cs.CL · arxiv.org