跳到正文
热点事件持续更新

Altman 提议前沿模型开发者共建安全红线规范

1 篇报道1 个报道来源5 小时前更新

先了解这件事

AI 综述

Sam Altman 提议各前沿模型开发者共同建立行业规范,在模型首次使用前就如何评估模型、对安全案例进行红队测试形成共享标准,并包含共享透明度标准。 他同时建议基于困惑度等测量设定开发者承诺不逾越的共同上限,直到理解与监控 AI 行为的能力达到具体里程碑,例如 CoT 监控器的后继技术。他希望在模型首次使用前形成规定开发首道上限及突破前所需条件的行业标准。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月23日
  1. RadarAI
    Sam Altman 提议前沿模型开发者共建评估与安全红线行业规范

    Sam Altman 提议各前沿模型开发者共同建立评估模型和红线测试安全案例的行业规范,包括共享透明度标准。他还建议基于困惑度等测量设定开发者承诺不逾越的共同上限,直到理解与监控 AI 行为的能力达到具体里程碑,例如 CoT 监控器的后继技术。他希望在模型首次使用前形成规定开发首道上限及突破前所需条件的行业标准。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。