arXiv·· 12 天前AI 评分22
小语言模型在抽象推理任务上的系统性研究
A Systematic Study of Small Language Models on Abstract Reasoning Tasks
AI 导读
研究在 ARC-TGI 基准上考察小语言模型抽象推理能力,该基准将抽象网格变换组织为可控任务族,支持重采样、空间平移与跨基准迁移。研究对 decoder-only、encoder-decoder 和 MoE 三类模型家族在监督微调下进行了超过 1000 次运行,分析技能习得的效率与稳定性。
来源:arXiv · arxiv.org