arXiv·· 12 天前AI 评分31
医学 LLM 共识如何形成：一致同意也可能全错，如何认证弃答
Unanimously Wrong: Certified Abstention from How Medical LLM Consensus Forms
AI 导读
医学 LLM 多轮共识系统把采样答案的一致同意当作可信信号，但一致同意是正确性的脆弱代理：系统可能每次都给出同一个错误答案，此时基于一致性的信号不携带任何信息，因为它只读取最终状态。该研究提出对医学 LLM 共识形成过程的认证弃答方法。
来源：arXiv · arxiv.org