RadarAI· X：Anthropic (@AnthropicAI)·· 3 小时前AI 评分55
Anthropic 为 Claude 推出 self-assessment 安全机制
Anthropic 推出 Claude 自评估机制以识别对话中的潜在滥用
AI 导读
Anthropic 训练 Claude 在每次回复后即时给出对话的初步安全评估，并将该机制称为 self-assessment，用于标记其他安全防线未覆盖的潜在滥用。
正文 · AI 翻译
Anthropic· @AnthropicAI · X·2026-10-30 02:22· 38 分钟前AI 评分52
AI 导读
Anthropic 推出名为 self-assessment 的安全机制，Claude 在每次回复后即时给出对话的初步安全评估，标记其他安全防线未覆盖的潜在滥用。
正文 · 原文
我们训练 Claude 在对话中标记潜在滥用，我们将这一技术称为 self-assessment。在它回复之后，Claude 会立即对对话给出初步的安全评估。
自我们于六月开始使用 self-assessment 以来，它已发现其他防护措施未能捕捉到的滥用行为。
由于 Claude 已经阅读过对话，self-assessment 非常高效。而且与针对一组离散危害的分类器不同，它依托 Claude 自身的判断，因此随着我们模型的改进，它会变得更加准确。
在我们的新 Safeguards 博客上了解更多：
https://safeguards.anthropic.com/2026/self-assessment/
来源：Anthropic · x.com
来源：RadarAI · aihot.news