OpenAI公开预训练困惑度数据,提议设共同安全上限
先了解这件事
OpenAI 公开了自 GPT-3.5 以来的预训练困惑度(交叉熵损失)数据,并提议以该指标设立跨开发者的共同安全上限。OpenAI 首席科学家 Jakub Pachocki 在《Perplexity and Intelligence》一文中主张,基于 perplexity 等度量设定共同门槛,超越门槛的进展需以理解 AI 行为的能力为前提;OpenAI 称公开更多预训练信息是为推动形成共同安全标准。 OpenAI 给出的数值为:GPT-3.5 的 log-perplexity 约 0.99,GPT-4 约 0.91,目前已低于 0.8,并预计进入约 0.68-0.7 区间时会出现新的变革性能力。Sam Altman 表示希望各方就共同限制达成一致。 Greg Brockman 在 X 上介绍该文,主张共同上限应配以明确的退出标准,例如 CoT monitors 的后继工具问世。上述数值、能力预测与安全主张均为 OpenAI 方面的说法,报道未给出第三方验证或行业采纳情况。
AI 根据报道生成 · 10 分钟前更新
事件进展
3 个进展
- 11月23日 03:15 · 1 篇报道Brockman 解读 OpenAI 基于困惑度的共同安全上限提议RadarAI:Greg Brockman 解读 OpenAI 基于困惑度的预训练共同安全上限提议
- 11月23日 01:03 · 4 篇报道OpenAI首席科学家主张以perplexity设共同安全门槛RadarAI:OpenAI 公开预训练进展,呼吁就共同安全限制达成一致
- 11月22日 08:00 · 1 篇报道OpenAI 公开预训练困惑度数据,提议以该指标设立行业共同安全上限OpenAI News:OpenAI 公开预训练困惑度数据,提议以该指标设立行业共同安全上限
报道时间线
沿着报道,了解事件的不同侧面。
- TechCrunch · AIOpenAI 首席科学家 Jakub Pachocki 提出以困惑度作为限制 AI 发展的衡量基准
OpenAI 首席科学家 Jakub Pachocki 在博客文章中提出,可以用困惑度(perplexity)作为衡量 AI 进展的共享基准,并据此为 AI 发展设定共同上限。
- RadarAIGreg Brockman 解读 OpenAI 基于困惑度的预训练共同安全上限提议
Greg Brockman 在 X 上介绍 OpenAI《Perplexity and Intelligence》一文,主张基于困惑度等指标设立开发者承诺不逾越的共同安全上限,并配以明确的退出标准,例如 CoT monitors 的后继工具问世。
- RadarAIOpenAI 发布《Perplexity and Intelligence》,公开预训练困惑度进展数据
OpenAI 发布文章《Perplexity and Intelligence》,主张基于困惑度等测量设立共同安全门槛,超过门槛的进展应以对 AI 行为的理解能力为前提,并公开预训练进展数据。
- RadarAIOpenAI 公开预训练进展,呼吁就共同安全限制达成一致
Sam Altman 表示 OpenAI 正在对预训练进展提供大量透明度,希望各方能就共同限制达成一致,认为这有助于确保安全与可控。
- RadarAIOpenAI 首席科学家 Jakub Pachocki 主张以 perplexity 设共同安全门槛并公开预训练进展
OpenAI 首席科学家 Jakub Pachocki 表示,为提高预训练进展透明度、推动形成共同安全标准,OpenAI 将公开更多预训练信息,并发布文章《Perplexity and Intelligence》。他在文中主张基于 perplexity 等度量设立共同上限,超越门槛的进展需以理解 AI 行为的能力为前提,文中附有模型 log-perplexity 随时间下降的图表。
- OpenAI News精选OpenAI 公开预训练困惑度数据,提议以该指标设立行业共同安全上限
OpenAI 公开其自 GPT-3.5 以来的预训练困惑度数据,主张把困惑度(交叉熵损失)作为跨模型开发者比较和制定共同安全标准的指标。文中给出各代模型的 log-perplexity 数值,GPT-3.5 约 0.99、GPT-4 约 0.91,目前已低于 0.8,并预计进入约 0.68-0.7 区间时会出现新的变革性能力。
本事件热度走势
- 可比范围当前
- 15
- 可比范围峰值
- 1511月23日 04:00
- 近 24 小时变化
- –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。