arXiv·· 12 天前AI 评分41
研究：后训练决定 LLM 是否会按自身道德判断行事
Principled Under Pressure: Post-Training Decides Whether LLMs Act on Their Own Moral Judgment
AI 导读
一项预注册研究用 248 个场景、五类压力测试 LLM 智能体：同一场景分别以第一人称行动和第三人称判断各问一次模型，以模型自身判断为基准，并配有去除压力的对照版本。结果显示，模型是否按自己的道德判断行事，取决于后训练。
来源：arXiv · arxiv.org