arXiv cs.CL· Qiang Yan (Institute of Computing Technology, Chinese Academy of Sciences)·· 11 小时前AI 评分31
Chinese Decision：面向单次前向概率决策的中文语言模型家族
Chinese Decision: A Family of Language Models for Single-Pass Probabilistic Decision-Making
AI 导读
中科院计算所 Qiang Yan 提出 Chinese Decision 中文模型家族，通过单次前向提取候选字母 logits 并归一化，无需自回归生成即可完成布尔判断、分类选择与序数评分。
正文 · AI 翻译
作者：Qiang Yan（中国科学院计算技术研究所）
摘要：许多基于语言的应用需要在有限决策集合上给出概率，而非开放式回答。我们提出 Chinese Decision，一个用于单次前向概率决策的中文语言模型系列。给定上下文、指令和候选描述，模型在一次前向传播中提取末位候选字母的 logits，并在有效选项上归一化，无需自回归生成答案。共享接口支持布尔判断、类别选择和序数评分。我们报告了一个已完成的 0.8B 模型，在 1304.8 万条决策上以分布交叉熵训练；以及初步的 2B 检查点，额外采用 RLCD 目标训练。在包含 307,900 条决策的完整 CJ-Bench 上，未校准的 0.8B 模型使用单一检查点取得 72.24% 的通用领域准确率，以及在医学、法律和金融领域 76.98% 的平均准确率，总体期望校准误差为 1.07%。2B 模型在一个 epoch 的 40.13% 后达到 72.56% 的通用领域准确率，但在专业领域平均值上尚未超过已完成的 0.8B 模型。我们进一步评估了采用验证温度缩放的部署模型及其 Q8 量化版本，发现总体性能接近，同时记录了单个预测的变化。我们发布了训练、评估和部署流水线。当前结果建立了一种可复现的中文概率决策方法，但未能分离模型规模的影响。
| 评论： | 11 页，2 幅图，11 张表。代码：this https URL |
| 学科： | 计算与语言（cs.CL） |
| 引用为： | arXiv:2610.23170 [cs.CL] |
| （或 arXiv:2610.23170v1 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.23170 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Qiang Yan [查看邮箱]
[v1]
2026 年 10 月 16 日星期五 09:08:32 UTC（80 KB）
来源：arXiv cs.CL · arxiv.org