arXiv cs.MA· Genglin Liu, Muye Zhang, Krishnamurthy Viswanathan, Nichole J. Hansen, Bla\v{z} Bratani\v{c}, Nathan L Clement, Shalini Ghosh, Ariel Fuxman·· 23 小时前AI 评分29
基于分歧引导的智能体数据整理用于多模态安全
Disagreement-Guided Agentic Data Curation for Multimodal Safety
AI 导读
研究提出以标注者分歧为信号筛选合成边界案例的多模态安全数据整理流程:生成策略条件图像、按目标-评分者或评分者间分歧选例、对未决案例条件升级,并将评分者标注样本作为上下文示例检索。
正文 · AI 翻译
摘要:多模态场景中的书面安全策略定义了视觉边界跨越多种情境的类别。我们将分歧作为识别有用合成边界案例的信号进行研究。我们的流程生成以策略为条件的图像,选择具有目标-评分者分歧或评分者间分歧的案例,对未解决的案例进行条件性升级,并将由此产生的评分者标注示例作为上下文演示进行检索。在失败案例丰富的多模态安全基准上,策略接地将假阴性率(FNR)从 0.875 降至 0.413,并将 F1 从 0.220 提升至 0.731;从 50 个按分歧选出的示例中进行检索进一步将 FNR 降至 0.245,而 350 个示例的常规池为 0.297。所选记忆还改善了另一个目标模型系列,在具有精炼策略的专有基准上增益较小。在一项盲法人类研究中,专家在 24% 的分歧引导图像和 17% 的基线精选图像上存在分歧。这些发现支持可追溯、分歧引导的策展,用于多模态安全评估和示例选择。
| 评论: | 9 页;发表于 2026 IEEE International Conference on Big Data |
| 主题: | 人工智能(cs.AI);多智能体系统(cs.MA) |
| 引用为: | arXiv:2607.14256 [cs.AI] |
| (或此版本的 arXiv:2607.14256v2 [cs.AI]) | |
| https://doi.org/10.48550/arXiv.2607.14256 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Genglin Liu [查看电子邮件]
[v1]
2026 年 7 月 15 日星期三 18:13:05 UTC(9,713 KB)
[v2]
2026 年 11 月 18 日星期三 04:04:22 UTC(2,578 KB)
来源:arXiv cs.MA · arxiv.org