arXiv cs.CL· Muyao Kong, Zhihao Lin·· 3 天前AI 评分22
Scenario-Actor：让 LLM 在生成前先读懂场景
Read the Room Before Your Model Generates
AI 导读
研究者提出 Scenario-Actor，一个可解释的温度选择框架，从 Transformer 隐藏状态中提取场景相关结构，用场景嵌入这一几何表示来决定解码温度。在 Llama-3.1-8B-Instruct 上，该方法在交互式社交场景目标完成、开放式指令跟随上取得显著提升，多轮对话表现与多个基线相当。
正文 · AI 翻译
摘要：大型语言模型（LLM）通常依赖采样温度来调节其输出中的随机性程度。主流的温度选择方法通常涉及固定的、启发式的全局设置以及上下文或 token 级别的校准，而非对交际场景的几何可解释表示。在这项工作中，我们引入了一个简单且可解释的温度选择框架——Scenario-Actor，它使解码适应推断出的情境特征。Scenario-Actor 从 Transformer 隐藏状态中提取场景相关结构，并根据场景嵌入（交际场景的结构化几何表示）确定温度。实证结果表明，在 Llama-3.1-8B-Instruct 上，与多个基线相比，Scenario-Actor 在交互式社交场景中实现了较强的目标完成性能，在开放式指令遵循上取得显著提升，并在多轮对话中具有竞争力的表现。
| 主题： | 人工智能（cs.AI）；计算与语言（cs.CL） |
| 引用为： | arXiv:2610.18820 [cs.AI] |
| （或 arXiv:2610.18820v2 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.18820 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Muyao Kong [查看电子邮件]
[v1]
2026年10月13日星期二 17:51:18 UTC（693 KB）
[v2]
2026年10月14日星期三 05:19:11 UTC（693 KB）
来源：arXiv cs.CL · arxiv.org