跳到正文
热点事件持续更新

OpenAI公开预训练困惑度数据,提议设共同安全上限

6 篇报道3 个报道来源37 分钟前更新

先了解这件事

AI 综述

OpenAI 公开了自 GPT-3.5 以来的预训练困惑度(交叉熵损失)数据,并提议以该指标设立跨开发者的共同安全上限。OpenAI 首席科学家 Jakub Pachocki 在《Perplexity and Intelligence》一文中主张,基于 perplexity 等度量设定共同门槛,超越门槛的进展需以理解 AI 行为的能力为前提;OpenAI 称公开更多预训练信息是为推动形成共同安全标准。 OpenAI 给出的数值为:GPT-3.5 的 log-perplexity 约 0.99,GPT-4 约 0.91,目前已低于 0.8,并预计进入约 0.68-0.7 区间时会出现新的变革性能力。Sam Altman 表示希望各方就共同限制达成一致。 Greg Brockman 在 X 上介绍该文,主张共同上限应配以明确的退出标准,例如 CoT monitors 的后继工具问世。上述数值、能力预测与安全主张均为 OpenAI 方面的说法,报道未给出第三方验证或行业采纳情况。

AI 根据报道生成 · 10 分钟前更新

事件进展

3 个进展

  1. 11月23日 03:15 · 1 篇报道
    Brockman 解读 OpenAI 基于困惑度的共同安全上限提议
    RadarAI:Greg Brockman 解读 OpenAI 基于困惑度的预训练共同安全上限提议
  2. 11月23日 01:03 · 4 篇报道
    OpenAI首席科学家主张以perplexity设共同安全门槛
    RadarAI:OpenAI 公开预训练进展,呼吁就共同安全限制达成一致
  3. 11月22日 08:00 · 1 篇报道
    OpenAI 公开预训练困惑度数据,提议以该指标设立行业共同安全上限
    OpenAI News:OpenAI 公开预训练困惑度数据,提议以该指标设立行业共同安全上限

报道时间线

沿着报道,了解事件的不同侧面。

11月23日
  1. TechCrunch · AI
    OpenAI 首席科学家 Jakub Pachocki 提出以困惑度作为限制 AI 发展的衡量基准

    OpenAI 首席科学家 Jakub Pachocki 在博客文章中提出,可以用困惑度(perplexity)作为衡量 AI 进展的共享基准,并据此为 AI 发展设定共同上限。

  2. RadarAI
    Greg Brockman 解读 OpenAI 基于困惑度的预训练共同安全上限提议

    Greg Brockman 在 X 上介绍 OpenAI《Perplexity and Intelligence》一文,主张基于困惑度等指标设立开发者承诺不逾越的共同安全上限,并配以明确的退出标准,例如 CoT monitors 的后继工具问世。

  3. RadarAI
    OpenAI 发布《Perplexity and Intelligence》,公开预训练困惑度进展数据

    OpenAI 发布文章《Perplexity and Intelligence》,主张基于困惑度等测量设立共同安全门槛,超过门槛的进展应以对 AI 行为的理解能力为前提,并公开预训练进展数据。

  4. RadarAI
    OpenAI 公开预训练进展,呼吁就共同安全限制达成一致

    Sam Altman 表示 OpenAI 正在对预训练进展提供大量透明度,希望各方能就共同限制达成一致,认为这有助于确保安全与可控。

  5. RadarAI
    OpenAI 首席科学家 Jakub Pachocki 主张以 perplexity 设共同安全门槛并公开预训练进展

    OpenAI 首席科学家 Jakub Pachocki 表示,为提高预训练进展透明度、推动形成共同安全标准,OpenAI 将公开更多预训练信息,并发布文章《Perplexity and Intelligence》。他在文中主张基于 perplexity 等度量设立共同上限,超越门槛的进展需以理解 AI 行为的能力为前提,文中附有模型 log-perplexity 随时间下降的图表。

11月22日
  1. OpenAI News精选
    OpenAI 公开预训练困惑度数据,提议以该指标设立行业共同安全上限

    OpenAI 公开其自 GPT-3.5 以来的预训练困惑度数据,主张把困惑度(交叉熵损失)作为跨模型开发者比较和制定共同安全标准的指标。文中给出各代模型的 log-perplexity 数值,GPT-3.5 约 0.99、GPT-4 约 0.91,目前已低于 0.8,并预计进入约 0.68-0.7 区间时会出现新的变革性能力。

本事件热度走势

可比范围当前
15
可比范围峰值
1511月23日 04:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。