研究者提出灾难性表现的形式化定义

Henrik Marklund、Alex Infanger 和 Benjamin Van Roy 提出“灾难性表现”的正式定义，用于严格分析 AI 失准带来的灾难性风险，以区分仅次优与灾难性结果。 该定义基于两个参考值：baseline value 指未部署任何智能体时的价值，orthogonal value 指与人类偏好无关的轨迹价值，后者通常远差于前者。按此定义，灾难性表现指智能体抵消了人类活动已带来的收益。

AI 根据报道生成 · 53 分钟前更新

还没有足够的连续观测数据，暂不绘制趋势。