论文提出交互式互补对齐研究议程
热点事件持续更新
论文提出交互式互补对齐研究议程
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Valerie Chen 等作者发表论文,主张 AI 对齐应从静态模仿人类偏好转向交互式、互补式对齐:偏好通过人与模型的交互涌现,对齐不再仅由满足偏好来定义。 作者以轨迹级视角刻画人与模型行为随时间共同演化,指出现有机器学习形式化未能捕捉这些交互动态;并称基于跨学科工作坊的社会科学洞见,人机系统会放大这些动态、引入新的不对称性与协调挑战。 文章最后提出一项融合机器学习、社会科学与决策科学的研究议程,但未报告验证该议程效果的实证结果。
AI 根据报道生成 · 51 分钟前更新
最新进展10月19日 12:00
让 AI 对齐动态的人机工作流报道时间线
沿着报道,了解事件的不同侧面。
10月19日
- arXiv cs.AI让 AI 对齐动态的人机工作流
论文主张 AI 对齐应从静态模仿人类偏好转向交互式、互补式对齐,即偏好通过交互涌现,对齐不再仅由满足偏好来定义。作者用轨迹级视角刻画人与模型行为随时间共同演化,指出现有 ML 形式化未能捕捉这些交互动态,并基于跨学科工作坊的社会科学洞见指出人机系统会放大这些动态、引入新的不对称性与协调挑战。文章最后提出融合机器学习与社会科学、决策科学的研究议程。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。