OpenAI 发布 ChatGPT Images 2.5 系统卡

2. 模型数据与训练

与 OpenAI 的其他模型一样，GPT-Image-2.5-Sunburst 和 GPT-Image-2.5-Flare 在多样化的数据集上进行了训练，包括 互联网上公开可用的信息、我们与第三方合作获取的信息，以及我们的用户 或人工训练师和研究人员提供或生成的信息。我们的数据 处理流程包括严格的过滤，以保持数据质量 并降低潜在风险。我们使用先进的数据过滤流程 以减少训练数据中的个人信息。我们还采用安全 分类器来帮助防止或减少使用有害或敏感 内容，包括涉及未成年人的性内容等露骨材料。

3. 观察到的安全挑战、评估与缓解措施

3.3 安全与政策评估

3.4 准备框架：图像特定能力评估与保障措施

OpenAI 的 准备 框架旨在跟踪并准备应对具有前沿 能力的模型，这些能力可能在三个跟踪类别中造成严重伤害的新风险：生物与化学、网络安全以及 AI 自我改进。由于图像模型无法以能够实现 AI 自我改进的方式创建和执行 代码，我们没有 证据表明 GPT-Image-2.5-Sunburst 或 GPT-Image-2.5-Flare 在这一类别中构成 重大风险。

对于网络和生物类别，我们调整了现有的 语言模型能力评估，以评估图像生成 能力。对于每项任务，我们指示模型生成一张 同时包含可见推理草稿和最终答案的图像。 然后我们仅对图像中呈现的最终答案进行评分，使用 评估现有的评分标准。这使我们能够在相同的底层网络能力和生物能力 问题上测试模型，同时通过其原生 图像模态引出并评估其响应。

结果表明，GPT-Image-2.5-Sunburst 和 GPT-Image-2.5-Flare 均未越过生物高风险阈值或网络高风险 阈值。

无论如何，正如在 GPT-Images 2.0 中所做的那样，我们采取预防性 方法，并应用适合被视为生物风险领域高能力模型的缓解措施。这些缓解措施包括 对我们现有生物风险安全政策的图像特定改编， 我们使用安全推理模型将其应用于所有 ChatGPT Images 2.5 输入和输出。