arXiv cs.CL· Yuexin Wu, Dayou Yu, Vasile Rus·· 11 小时前AI 评分20
面向医疗问答数据选择的开发调优表示敏感性实证研究
An Empirical Study of Development-Tuned Representation Sensitivity for Medical QA Data Selection
AI 导读
研究提出 Representation-Sensitivity Prioritization（RSP），先按预测熵将候选池限制到 top-4B，再结合隐藏态扰动下答案翻转频率与前二答案 margin 的非翻转收缩来打分。
正文 · AI 翻译
摘要：我们研究医疗问答（QA）数据选择问题：开发者已拥有问题、标签和辅助解释文本，但最终 LoRA 更新只能保留 $B$ 个示例。表示-敏感性优先排序（RSP）首先将候选库限制在预测熵最高的前 $4B$ 个示例，然后结合隐藏状态扰动下答案翻转的频率与未翻转时前两个答案间隔的收缩程度。我们在五个医疗 QA 数据集上使用 google/medgemma-4b-it、$B=128$ 和三个种子分支评估该操作分数。在移除四个同时出现在 MedExpQA 采集池中的测试问题后，针对数据集开发调优的 RSP 在所评估的选择器中取得了观测到的最高五数据集平均准确率（53.44%）和 Macro-F1（48.21%）。相对于同一熵受限池内的随机选择，描述性差异分别为 +1.49 和 +2.10 个百分点；配对 95% bootstrap 区间包含零。该审计混合了与已记录骨干后训练来源关系不同的基准，且同一测试队列在扩展调优网格设计之前已用于早期分析。因此结果属于探索性、幅度有限且依赖数据集，而非统计优越性的证据。RSP 的点估计也超过了一个归档的无更新参考，但未固定版本的模型修订和不完整的历史输入标识符限制了将该差异归因于微调。由于每个选中的训练示例都包含辅助文本，且未评估匹配的仅答案对照，实验也无法识别辅助文本条件本身带来的因果收益。
| 评论： | 16 页。GenAI4Health @ NeurIPS 2026 版本大幅修订：更新标题、开发调优的仅问题选择协议、实验和回顾性审计。包含保留工件辅助材料 |
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI） |
| 引用为： | arXiv:2609.09684 [cs.CL] |
| （或 arXiv:2609.09684v2 [cs.CL] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2609.09684 arXiv 颁发的 DOI 通过 DataCite |
提交历史
来自：Yuexin Wu [查看电子邮件]
[v1]
2026 年 9 月 9 日星期三 03:58:59 UTC（79 KB）
[v2]
2026 年 10 月 20 日星期二 11:35:07 UTC（1,049 KB）
来源：arXiv cs.CL · arxiv.org