跳到正文
arXiv cs.AI· Maroof Kousar, Jinsung Han, Mohit Chandra, Munmun De Choudhury, Yibo Hu·· 13 小时前AI 评分38

DoseBench:评估 LLM 在非处方药剂量问答中的决策能力

Can I Take Another Dose? DoseBench: Evaluating LLM Decision-Making in OTC Dosing QA

AI 导读

研究者推出 DoseBench 基准,包含 230 道消费者风格的 acetaminophen 和 ibuprofen 剂量问题,带有人工标注的 YES、NO、AMBIGUOUS 标签,用于评估 LLM 的用药决策。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大型语言模型(LLM)越来越多地被用于回答日常在线健康问题,包括某人是否可以再服用一剂非处方(OTC)药物。然而,这一常见且与安全相关的场景在医学问答中仍未得到充分探索。回答这些问题需要核查既往剂量、时间以及特定产品的剂量上限,同时还要识别出重要信息缺失的情况。我们推出了 DoseBench,这是一个聚焦于 230 个消费者风格的对乙酰氨基酚和布洛芬剂量问题的基准,带有经人工标注的 YES、NO 和 AMBIGUOUS 标签,并评估了八个 LLM,每个问题给出五次回答。总体准确率在 44.8% 至 62.2% 之间,而模型对禁用剂量的错误批准率为 14.0% 至 60.5%。因此,准确率相近的模型可能做出截然不同的剂量决策。进一步分析表明,这些失败并不能通过给模型提供更多指导而轻易解决。要求模型核查剂量、时间和缺失信息会使其更加谨慎,而提供药物事实信息虽能提高准确率,却可能使其忽视缺失信息。这些发现凸显了健康问答中一个更广泛的挑战:正确应用规则并识别信息何时缺失。
评论: 12 页,5 张图
主题: 计算与语言(cs.CL);人工智能(cs.AI)
引用为: arXiv:2606.04262 [cs.CL]
  (或 arXiv:2606.04262v2 [cs.CL] 查看此版本)
  https://doi.org/10.48550/arXiv.2606.04262

由 DataCite 颁发 arXiv DOI

提交历史

来自:Maroof Kousar [查看邮箱]
[v1] 2026 年 6 月 2 日星期二 22:30:15 UTC(2,556 KB)
[v2] 2026 年 10 月 29 日星期四 00:02:17 UTC(132 KB)

来源:arXiv cs.AI · arxiv.org