跳到正文
arXiv cs.CL· Minsuk Jang, Minseok Son, KiHyun Seol, Yeongeun Shim, Changick Kim·· 9 小时前AI 评分34

CuRSE-Bench:探测文生图安全评估中文化盲点的基准

CuRSE-Bench: A Benchmark for Probing Cultural Blind Spots in Text-to-Image Safety Evaluation

AI 导读

研究者提出 CultureCraft 智能体框架,构建在通用规则下看似无害、但在特定文化中隐含危害的文生图提示词,并据此建成 CuRSE-Bench,包含覆盖六个地区、十个危害维度的 10,709 条文化特定提示词和 2,648 条文化通用对照。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:文本到图像(T2I)安全评估通常为每个提示或图像赋予单一的文化盲危害标签,因此仅在特定文化中具有危害性的内容可能被判定为无害。我们提出 CultureCraft,一个智能体框架,用于构造在通用标准下看似无害、但在目标文化中携带潜在有害含义的 T2I 提示,并用其构建 CuRSE-Bench:涵盖六个地区和十个危害维度的 10,709 条文化特定提示与 2,648 条文化通用对照提示,每条均取自预先定义的、有据可查的危害向量知识库,并可追溯至至少两个独立来源。在六个地区角色评审员和一个配对的文化盲评审员下对每条提示评分,我们发现文化盲评审员低估了文化特定的潜在危害,而在对照提示上与角色评审员一致。反过来,每个角色评审员在我们的工具下主要解码其自身地区的潜在危害:一种选择性的文化盲点,在已部署的审核器中持续存在。
主题: 计算与语言(cs.CL)
引用为: arXiv:2611.20821 [cs.CL]
  (或 arXiv:2611.20821v2 [cs.CL] 查看此版本)
  https://doi.org/10.48550/arXiv.2611.20821

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Yeongeun Shim [查看邮箱]
[v1] 2026年11月16日星期一 10:05:19 UTC(12,853 KB)
[v2] 2026年11月17日星期二 07:43:52 UTC(12,358 KB)

来源:arXiv cs.CL · arxiv.org