arXiv cs.AI· Ali Al-Lawati, Nafis Tripto, Abolfazl Ansari, Fali Wang, Jason Lucas, Suhang Wang, Dongwon Lee·· 12 小时前AI 评分35
Bot-Mod：通过审问式检测揭示智能体社交网络中的隐藏意图
Moderation by Interrogation: Uncovering Concealed Intent in Agent Social Networks
AI 导读
研究提出 Bot-Mod 审核框架，通过对目标智能体施加固定诊断探针并用贝叶斯后验推断其意图，而非依赖内容级信号。在基于 Moltbook 构建的 Molt-Intent 数据集上，其分布内和分布外复合 F1 分别为 0.736 和 0.684，比最佳基线高 22% 和 14%。该方法在三个智能体 LLM 上均优于纯内容审核器、微调分类器和基于评判的审问器。
正文 · AI 翻译
摘要：多智能体系统的出现带来了超越内容过滤的新型审核挑战。具有$\textit{恶意意图}$的智能体可能贡献看似无害的内容以规避基于内容的审核，同时服务于隐藏目标。为应对这一挑战，我们提出了 Bot-Mod，一个将检测建立在智能体意图而非传统内容层面信号之上的审核框架。Bot-Mod 使用一组固定的诊断探针询问目标智能体，并通过在候选意图上的贝叶斯后验推断来推断其意图。它从经过校准的仅内容先验开始，并使用审核者为每个候选意图下每个答案分配的$\textit{似然}$来更新后验，直到满足停止准则。为评估我们的方法，我们构建了 Molt-Intent，这是一个源自 Moltbook 的数据集，通过帖子和评论捕捉真实社区结构中多样的良性行为和恶意行为。在 Molt-Intent、一个外部社会工程数据集以及三个智能体 LLM 上，Bot-Mod 在分布内和分布外均优于仅内容审核器、微调分类器和基于评判的询问器。在 Molt-Intent 上，其分布内综合 F1 达到 0.736，分布外达到 0.684，分别比最佳基线高出 22% 和 14%。
| 学科： | 人工智能（cs.AI）；社会与信息网络（cs.SI） |
| 引用为： | arXiv:2605.12856 [cs.AI] |
| （或此版本的 arXiv:2605.12856v3 [cs.AI]） | |
| https://doi.org/10.48550/arXiv.2605.12856 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Ali Al Lawati [查看电子邮件]
[v1]
2026年5月13日星期三 01:04:16 UTC（1,209 KB）
[v2]
2026年5月14日星期四 03:53:30 UTC（1,209 KB）
[v3]
2026年10月26日星期一 18:41:28 UTC（647 KB）
来源：arXiv cs.AI · arxiv.org