论文称CoT推理被误当透明解释，助长拟人化与认知顺从
热点事件持续更新
论文称CoT推理被误当透明解释，助长拟人化与认知顺从
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Oliver Lack等作者向FAccT提交的论文认为，把生成模型的Chain-of-Thought（CoT）推理当作透明的“解释”是一种误判：模型只是复现语言模式，并不理解语义。 论文称，这种误判会助长用户对AI的拟人化，使用户把模型在狭窄任务上的表现泛化为更广泛的能力，并因感知到的认知权威而把决策权让渡给AI。作者以医学为例，建议主动劝阻要求模型给出面向用户的推理理由，并在AI素养培训中明确警示这一做法。
AI 根据报道生成 · 44 分钟前更新
最新进展11月11日 13:00
研究：Chain-of-Thought 推理为何会助长用户对 AI 的拟人化与认知顺从报道时间线
沿着报道，了解事件的不同侧面。
11月11日
- arXiv cs.AI研究：Chain-of-Thought 推理为何会助长用户对 AI 的拟人化与认知顺从
一篇投稿 FAccT 的论文指出，生成模型只是复现语言模式而非理解语义，把 Chain-of-Thought（CoT）推理当作透明的“解释”是一种误判。研究认为，拟人化会使用户将狭窄任务表现泛化为更广泛能力，并因感知到的认知权威而把决策权让渡给 AI。作者以医学为例，建议主动劝阻要求模型给出面向用户的推理理由，并在 AI 素养培训中明确警示这一做法。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。