arXiv cs.AI· Adeyemi Adeseye, Aisvarya Adeseye, Hannu Tenhunen, Jouni Isoaho·· 11 小时前AI 评分24
基于证据锚定的小语言模型行为预测架构 ELBP，用于预测未来协助需求
Evidence-Grounded SLM Behavioral Prediction Architecture for Future Assistance Use
AI 导读
研究提出证据锚定本地行为预测架构 ELBP，结合确定性交互处理、双视图行为表示、SLM 预测与证据验证及弃权机制，在 3B 参数及以下指令微调模型上评估。最佳配置 Qwen2.5-3B 配合 ELBP 取得全量集 F1 0.80、PR-AUC 0.84，较原始事件提示相对提升 15.9%，较 XGBoost 提升 17.6%，ECE 相对下降 43.2%。
正文 · AI 翻译
摘要：用户通常在明确寻求帮助之前就会表现出交互行为的变化，这使系统能够预判未来的协助使用。这在高风险环境中尤为重要，因为延迟协助可能带来运营、财务或安全方面的后果。然而，传统大语言模型（LLM）由于计算和内存需求，往往不适合在设备上进行持续的行为预测。行为模式也高度个体化且因设备而异，这促使人们采用本地处理以保护隐私和数据主权。小语言模型（SLM）提供了一种有前景的替代方案，但其对低层序列交互事件进行可靠推理的能力仍未得到充分探索。本研究提出了证据锚定的本地行为预测（ELBP），这是一种四层架构，结合了确定性交互处理、双视图行为表示、基于 SLM 的预测以及带弃权的证据验证。研究使用原始、结构化、双视图和完整 ELBP 配置，评估了三个参数量不超过 3B 的指令微调模型。表现最佳的模型 Qwen2.5-3B 配合 ELBP，在全集上取得了 0.80 的 F1 分数和 0.84 的 PR-AUC，相较于原始事件提示相对提升 15.9\%，相较于 XGBoost 提升 17.6\%，同时全集 ECE 相较于原始事件提示下降 43.2\%。通过证据验证和弃权，选择性 F1 在 91\% 覆盖率下提升至 0.84，证据支持率达到 96\%。这些结果表明，结构化行为表示和经证据验证的选择性预测可以提高 SLM 中行为预测的可靠性。
| 评论： | 已被 2027 年人工智能与应用智能系统国际会议（AIAIS 2027）接收发表，该会议将于 2027 年 1 月 22 日至 24 日在香港举行 |
| 主题： | 人工智能（cs.AI） |
| 引用为： | arXiv:2610.32193 [cs.AI] |
| （或此版本的 arXiv:2610.32193v1 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2610.32193 arXiv 颁发的 DOI 经由 DataCite（待注册） |
提交历史
来自：Adeyemi Adeseye 先生 [查看电子邮件]
[v1]
2026 年 10 月 23 日星期五 05:39:31 UTC（4,186 KB）
来源：arXiv cs.AI · arxiv.org