arXiv cs.AI· Zihao Zhu, Yuhan Liu, Siwei Lyu, Baoyuan Wu·· 13 小时前AI 评分49
FVH-Bench：评估图像生成器超越显性有害图像的安全风险
FVH-Bench: Evaluating Image Generator Safety Beyond Overtly Harmful Imagery
AI 导读
研究者提出 FVH-Bench，用 669 条提示词覆盖五种有害视觉功能与十个风险领域，评估图像生成器在“功能性视觉危害”（FVH）上的安全对齐。11 个受测图像生成器很少拒绝这类请求，且常生成能实现目标有害功能的图像，目标危害实现度与有害产物可用性得分均偏高。现有安全检测器对 FVH 的覆盖同样有限。
正文 · AI 翻译
摘要：现代图像生成器能够生成复杂的视觉产物，包括图表、界面和记录，这些产物结合了文本、图形和布局来传达详细信息。它们可能会拒绝明显有害的图像请求，但仍会生成指导危险行动或支持欺骗的产物。我们将这类风险称为功能性视觉危害（FVH），它源于此类图像所能促成的事情，而不仅仅是它们所描绘的内容。现有的安全基准主要关注明显有害的内容，如色情和血腥暴力，导致图像生成器针对 FVH 的安全对齐评估不足。为填补这一空白，我们推出了 FVH-Bench，包含跨五种有害视觉功能和十个风险领域的 669 条提示。评估的 11 个图像生成器很少拒绝这些请求，并且经常生成实现目标有害功能的产物。目标危害实现和有害产物可用性的高分进一步表明，这些输出可以支持预期的有害目的。进一步分析发现，现有的安全检测器对 FVH 的覆盖也有限，表明它们在识别有害视觉功能方面存在差距。总之，这些发现表明，评估图像生成器的安全对齐不仅需要考虑图像描绘的内容，还需要考虑它们可能促成的事情。
| 学科： | 密码学与安全（cs.CR）；人工智能（cs.AI） |
| 引用为： | arXiv:2610.37722 [cs.CR] |
| （或 arXiv:2610.37722v1 [cs.CR] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.37722 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Zihao Zhu [查看电子邮件]
[v1]
2026年10月27日星期二 10:35:58 UTC（21,350 KB）
来源：arXiv cs.AI · arxiv.org