跳到正文
arXiv cs.AI· Shahrooz Pouryousef, Jesus Lopez, Saeefa Rubaiyet Nowmi, Md Mahmuduzzaman Kamol, Moinul Hossain, Muoi Tran, Mohammad Saidur Rahman·· 14 小时前AI 评分42

首个加密 LLM 流量分析攻击大规模基准:模型指纹识别准确率达 97.7%

A Large-Scale Benchmark and Risk Assessment of Traffic Analysis Attacks on Cloud LLM Services

AI 导读

研究者构建了首个覆盖用户—LLM 与多智能体执行的加密 LLM 流量统一测量基准与公开数据集,含 10 个模型的 60,000 次用户交互和 2,838 次多智能体执行。仅凭加密数据包元数据,模型指纹识别达到 97.7% 平衡准确率,提示词类别识别平均准确率 76.7%,多智能体任务指纹识别最高 90.7%。提示词改写会削弱但无法消除模型泄漏,任务指纹即使只观察单个智能体的流量仍可被检测。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:基于云的大语言模型(LLM)服务会形成网络层流量侧信道,即使加密也能暴露模型、提示词和任务行为。仅凭数据包大小、方向、时序和突发结构,被动本地观察者就能推断出服务模型、用户的提示词类别以及协作式多智能体系统执行的任务。然而,当前证据分散在不同的数据集和设置中,限制了可复现性和可比性。据我们所知,我们首次提出了针对用户—LLM 和多智能体执行两类场景的加密 LLM 流量的统一测量研究和公开基准。该大规模基准包含跨 10 个模型和 6 个提示词类别的 60,000 次用户—LLM 交互,以及覆盖 10 个任务类别和两种协调拓扑的 2,838 次多智能体执行。仅使用加密数据包元数据,我们通过刻画流量特征、识别与泄漏最相关的特征,并在提示词改写、解码温度变化、更大的候选模型集合和部分流量观察下测试鲁棒性,来评估流量分析攻击的风险。模型指纹识别达到 97.7\% 的平衡准确率,提示词类别指纹识别达到 76.7\% 的平均准确率,多智能体任务指纹识别最高达到 90.7\% 的准确率。提示词改写会削弱但不会消除模型特定的泄漏,即使仅凭单个智能体的流量,任务指纹仍可被检测到。
评论: 11 页,9 幅图,4 张表
主题: 密码学与安全(cs.CR);人工智能(cs.AI);机器学习(cs.LG)
引用为: arXiv:2609.31877 [cs.CR]
  (或本版本的 arXiv:2609.31877v2 [cs.CR])
  https://doi.org/10.48550/arXiv.2609.31877

由 DataCite 颁发的 arXiv DOI

提交历史

来自:Mohammad Saidur Rahman [查看邮箱]
[v1] 2026 年 9 月 25 日星期五 18:13:58 UTC(3,403 KB)
[v2] 2026 年 10 月 24 日星期六 05:04:44 UTC(3,403 KB)

来源:arXiv cs.AI · arxiv.org