arXiv cs.AI· Ali \c{S}enol, Garima Agrawal, Huan Liu·· 13 小时前AI 评分29
用 LLM 辅助判断联合检测在线对话中的欺诈与概念漂移
Joint Detection of Fraud and Concept Drift inOnline Conversations with LLM-Assisted Judgment
AI 导读
研究提出一个两阶段框架，先用定制集成分类模型筛出可疑对话，再用 One Class Drift Detector（OCDD）定位对话中的概念漂移，由 LLM 判断该变化是欺诈操纵还是正常话题转换；未检测到漂移则推断为类垃圾信息行为。在社交工程聊天场景数据集上验证，该框架提升了实时欺诈检测的准确率与可解释性，并与用不同语言模型完成检测和判断的 Dual LLM 基线进行了对比。
正文 · AI 翻译
摘要：检测数字通信平台中的虚假交互仍然是一个具有挑战性且尚未得到充分解决的问题。这些交互可能表现为无害的垃圾信息，也可能升级为复杂的诈骗尝试，使得难以尽早标记恶意意图。传统检测方法通常依赖静态异常检测技术，无法适应动态的对话变化。一个关键局限是将被称为概念漂移的良性话题转换误判为欺诈行为，从而导致误报或漏报威胁。我们提出了一个两阶段检测框架，首先使用定制的集成分类模型识别可疑对话。为提高检测的可靠性，我们引入了一个使用单类漂移检测器（OCDD）的概念漂移分析步骤，以隔离被标记对话中的对话变化。当检测到漂移时，由大语言模型（LLM）评估该变化表明的是欺诈性操纵还是合法的话题转换。在未发现漂移的情况下，该行为被推断为类似垃圾信息。我们使用社会工程聊天场景数据集验证了我们的框架，并展示了其在提高实时欺诈检测的准确性和可解释性方面的实际优势。为阐明权衡取舍，我们将我们的模块化方法与使用不同语言模型执行检测和判断的双 LLM 基线进行了比较。
| 主题： | 计算与语言（cs.CL）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2505.07852 [cs.CL] |
| （或 arXiv:2505.07852v2 [cs.CL] 为此版本） | |
| https://doi.org/10.48550/arXiv.2505.07852 由 DataCite 颁发的 arXiv DOI |
提交历史
来自：Ali Şenol [查看邮箱]
[v1]
2025年5月7日星期三 22:30:53 UTC（577 KB）
[v2]
2026年10月29日星期四 11:39:23 UTC（636 KB）
来源：arXiv cs.AI · arxiv.org