RL 内化技能数量与大模型尺寸的关系探讨

作者推测，在当前大模型尺寸下，单条技能记录的权重不足以区分大量技能，因此通过 RL 内化实现的技能数量可能呈指数级增长。作者同时期盼未来正规尺度的 RL 技术能否实现这一想法。