学者提出LLM政治社科研究可复现性框架
热点事件持续更新
学者提出LLM政治社科研究可复现性框架
1 篇报道1 个报道来源9 小时前更新
先了解这件事
AI 综述
Joan C. Timoneda 与 Sebastián Vallejo Vera 针对大语言模型输出具有概率性、随模型和版本变化并影响下游统计结果的问题,提出一套可复现性框架:区分可复制性、可重现性与稳健性,并以结果分布而非相同输出作为概率性标准。 研究引入标准化提示词脚本,测试编码器与解码器的模型内变异,并开发误差结构分析,以诊断模型出错位置及误差是否一致。基于三个数据集,研究发现测量选择可逆转下游回归系数的符号。 研究进一步提出开放权重模型的堆叠集成,称其能在保持估计有效性的同时提升校正步骤的精度。
AI 根据报道生成 · 57 分钟前更新
最新进展11月5日 13:00
政治与社会科学研究中使用大语言模型的可复制性、可重现性与稳健性报道时间线
沿着报道,了解事件的不同侧面。
11月5日
- arXiv cs.CY政治与社会科学研究中使用大语言模型的可复制性、可重现性与稳健性
针对 LLM 输出具有概率性、随模型和版本变化并影响下游统计结果的问题,该研究区分了可复制性、可重现性与稳健性,提出基于结果分布而非相同输出的概率性标准。研究引入标准化提示词脚本,测试编码器与解码器的模型内变异,并开发误差结构分析以诊断模型出错位置及误差是否一致。基于三个数据集,测量选择可逆转下游回归系数的符号;研究提出开放权重模型的堆叠集成,在保持估计有效性的同时提升校正步骤的精度。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。