CogRSI：模型自写推理原则，高分但规则有误

Yandan Zheng 等作者提出 CogRSI 框架，让语言模型通过自我改进循环自行写出心智推理原则。在 800 对未见过的 BigToM 测试上，这些学到的原则得分均高于专家撰写的原则。 但作者将这些规则翻译成代码，在数千个已知答案的小故事上检验后发现，多数规则在至少一种其声称覆盖的情境下给出错误答案，例如把熟睡中的在场角色判定为知道发生了什么。准确率无法揭示哪些规则有错，反事实测试也未能修正。作者据此提出，策略在实践中有效与作为规则正确需要分别检验。

AI 根据报道生成 · 44 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。