arXiv cs.CY· Steph Batalis, Kait Connors, Ben C. Snyder, Vikram Venkatram, Josh Wentzel·· 10 小时前AI 评分21
Violet Teaming 实践：治理复杂 AI 系统的专家工作坊试点经验
Violet Teaming in Practice: Lessons from a Pilot Expert Workshop on Governing Complex AI Systems
AI 导读
一项试点专家工作坊将 violet teaming 用作生物防御相关 AI 能力的治理方法，通过覆盖能力开发、滥用潜力与落地实施三个连续阶段的假设技术场景，整合技术、安全、运营与政策视角。该演练发现了非显而易见的滥用路径，将潜在干预手段扩展到纯技术防护之外，并揭示了可能影响实施的操作与政策约束。报告总结了工作坊设计、产出及将 violet teaming 应用于复杂两用技术评估的经验。
正文 · AI 翻译
摘要：Violet teaming 被提出作为一种方法，用于将技术、政策和社会层面的考量整合到新兴技术的评估中。在此，我们记录了一次试点专家研讨会，该研讨会旨在探索将 violet teaming 作为与生物防御相关的 AI 能力的治理方法，并描述从该演练中获得的观察结果。研讨会采用了一个假设的技术场景，涵盖三个连续阶段——能力开发、滥用潜力和实施——同时融入了技术、安全、运营和政策视角。这种连续的形式提供了一种整合的方式来考察潜在收益、滥用风险和现实世界的实施挑战，而不是孤立地考虑这些问题。该演练揭示了非显而易见的滥用路径，将潜在干预措施扩展到纯技术保障之外，并突出了可能影响实施的运营和政策约束。本报告总结了研讨会设计、产出以及将 violet teaming 应用于复杂两用技术评估的经验教训。
| 评论： | 9 页，2 幅图 |
| 主题： | 人工智能（cs.AI）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2610.41018 [cs.AI] |
| （或 arXiv:2610.41018v1 [cs.AI] 用于此版本） | |
| https://doi.org/10.48550/arXiv.2610.41018 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Steph Batalis [查看电子邮件]
[v1]
2026 年 10 月 29 日星期四 21:57:02 UTC（289 KB）
来源：arXiv cs.CY · arxiv.org