研究称训练数据单次事实率决定LLM科学发现能力

Arda Uzunoglu等作者发表论文，提出用“缺失概率质量”框架解释大语言模型的科学发现能力，认为训练数据中仅出现一次的“单次事实”（monofact）决定模型的发现能力。 研究在材料科学与调控基因组学中直接操纵训练集的单次事实比例，在两个开源权重模型族、多种采样策略与推理预算下，均观察到单次事实越多、发现越多。作者称，这一关系无法仅用训练集多样性解释，且配合领域内数据时可跨科学领域迁移。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。