arXiv cs.AI· Zhenyu Zhao, Nanshan Jia, Jihyeon Je, Yifu Tang, Alvin Chan, Michael Spedden, Michael V. Palleschi, Sui Huang, Jingshen Wang, Zeyu Zheng·· 10 天前AI 评分22
3D-DefectBench:面向细粒度 3D 生成缺陷的视觉语言模型评估流水线受控析因研究
3D-DefectBench: A Controlled Factorial Study of Vision-Language Model Evaluation Pipelines for Fine-Grained 3D Generation Defects
AI 导读
研究者提出 3D-DefectBench,一个用于严格分析评估流水线的大规模基准,覆盖几何、纹理与提示词遵循三类共九种细粒度二元缺陷,并可选人类严重度标注。该基准通过平衡析因设计在 84 种推理设计中变化 VLM、相机协议、视觉输入与提示词模式,发现模型选择是与人类标注一致性的主导变异来源,而紧凑的六视图 RGB 协议与更密集视图及加入深度或法线通道的配置表现相当。
正文 · AI 翻译
摘要:自动化评估对于扩展生成式 3D 系统至关重要,因为详尽的人工审查成本高昂且速度缓慢。然而,自动化评判器的可靠性取决于完整的评估流程,包括视觉语言模型(VLM)、资产渲染、视觉证据、任务规范以及人工参考标签。我们提出了 3D-DefectBench,一个用于严格评估流程分析的大规模基准。它通过涵盖几何、纹理和提示遵循度的九个细粒度二元缺陷,补充了整体评分和成对偏好,并可选提供人工严重程度标注。采用平衡因子设计,我们在 84 种推理设计中改变 VLM、相机协议、视觉输入和提示模式,并在更广泛的前沿模型集上验证所得结论。模型选择是与人工标签一致性的主要变异来源,而其他流程因素也会影响一致性、与模型产生交互,并可能改变最佳配置。紧凑的六视图 RGB 协议与更密集的视图集以及增加深度或法线通道的配置表现相当,使其成为一种极具成本效益的强默认方案。在此固定设计下,12 个 VLM 中表现最佳者仍落后于训练有素的人工标注者,且纹理一致性从专家一致性到噪声更大的银标签急剧下降。严重程度标注进一步表明,二元评判器能识别出人类标记为严重的大多数缺陷。这些结果凸显了将自动化评判器作为完整流程进行评估,并在不同人工参考体系下对其进行校准的重要性。
| 主题: | 计算机视觉与模式识别(cs.CV);人工智能(cs.AI);图形学(cs.GR) |
| 引用为: | arXiv:2607.10826 [cs.CV] |
| (或 arXiv:2607.10826v2 [cs.CV] 用于此版本) | |
| https://doi.org/10.48550/arXiv.2607.10826 由 DataCite 颁发的 arXiv DOI |
提交历史
来自:Zhenyu Zhao [查看电子邮件]
[v1]
2026年7月12日星期日 16:41:24 UTC(11,928 KB)
[v2]
2026年10月6日星期二 05:25:52 UTC(14,150 KB)
来源:arXiv cs.AI · arxiv.org