arXiv·· 13 天前AI 评分34
文本到图像模型的有害内容生成：能力与审核局限
Harmful Content Generation in Text-to-Image Models: Capabilities and Moderation Limitations
AI 导读
一项系统评估用自动化流程把合法新闻标题改写成针对色情、暴力血腥、有害刻板印象、自残和仇恨言论的不安全提示词，测试了五个开源文本到图像模型。研究同时考察了带内置安全机制的常规模型，发现现有安全机制在应对此类现实攻击时效果有限。
来源：arXiv · arxiv.org