arXiv cs.CY· Pantelitsa Leonidou, Nikos Salamanos, Sotiris Gypsiotis, Michael Sirivianos·· 3 天前AI 评分20
DeTox-Fed：用联邦图神经网络检测 Fediverse 中的有毒对话
DeTox-Fed: Detecting Toxic Conversations in the Fediverse with Federated Graph Neural Networks
AI 导读
DeTox-Fed 是一个联邦图学习框架，让 Pleroma、Mastodon 等去中心化社交网络实例无需共享原始对话或审核标签，即可协作训练有毒对话分类器。各实例构建本地对话图，节点为对话树、边表示跨对话的共同用户参与，再用 GNN 在联邦学习下训练，并融合对话结构、用户互动模式、对话级统计与聚合情感信号。
正文 · AI 翻译
摘要：去中心化社交网络（DSN）的兴起，尤其是 Fediverse（如 Pleroma、Mastodon、Lemmygrad）的迅速普及，为内容审核带来了新的挑战。各独立实例托管自己的数据，遵循不同的审核政策，并且往往只能观察到对话的部分视图。我们提出 DeTox-Fed，一个联邦图学习框架，用于在 DSN 中检测有害对话，且无需实例共享原始对话或审核标签。每个实例构建一个本地对话图，其中节点表示对话树，边捕获对话之间共享的用户参与。随后在联邦学习设置中训练图神经网络，使各实例能够协作学习一个有害内容分类器，同时保持数据本地性。与仅基于文本的审核方法不同，DeTox-Fed 结合了对话结构、用户交互模式、对话级统计信息和聚合情感信号。我们在一个大型 Pleroma 对话数据集和另一个来自 Mastodon 的数据集上评估该框架，表明在有限的本地标签、部分客户端参与以及不同的审核阈值下，它都能实现稳定的有害对话检测。我们的结果表明，基于联邦图的审核是去中心化社交网络中半自动化审核的一个有前景的方向。
| 评论： | 此修订版大幅扩展了实验评估，纳入了 Mastodon 数据集、额外的 LLM 模型（包括轻量级和顶级模型），并将 GraphNLI 作为实验基线 |
| 主题： | 社会与信息网络（cs.SI）；计算机与社会（cs.CY） |
| 引用为： | arXiv:2605.21054 [cs.SI] |
| （或此版本的 arXiv:2605.21054v2 [cs.SI]） | |
| https://doi.org/10.48550/arXiv.2605.21054 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Pantelitsa Leonidou [查看电子邮件]
[v1]
2026年5月20日星期三 11:41:27 UTC（449 KB）
[v2]
2026年10月14日星期三 08:29:43 UTC（269 KB）
来源：arXiv cs.CY · arxiv.org