arXiv cs.AI· Georgios Feretzakis, Alexandros Papaspyridis·· 14 小时前AI 评分31
离线边缘生成式 AI 的信任机制：连接状态框架与 Raspberry Pi 5 实证研究
Trust Mechanisms for Offline Generative AI at the Edge: A Connectivity-Regime Framework and an Empirical Study on a Raspberry Pi 5
AI 导读
研究提出 C0-C4 连接状态框架与推理时信任机制分类，并在网络隔离的 Raspberry Pi 5 上用 Qwen2.5 三种规模模型、三种上下文长度和 300 道 SQuAD 2.0 问题评测本地 RAG。
正文 · AI 翻译
摘要：生成式 AI 和大语言模型（LLM）正进入物联网，但大多数部署都假设具备云连接，而许多物联网环境只有间歇性、受限或无连接。我们提出了连接状态框架（C0-C4）、推理时信任机制的分类法，以及作为断连状态下更新通道的签名、带版本的知识包，并在网络隔离下运行完全本地检索增强生成的 Raspberry Pi 5 上对其进行评估，使用三种 Qwen2.5 模型规模、三种上下文大小和 300 个 SQuAD 2.0 问题。经经验校准的检索分数门控几乎完美地检测知识缺口（AUROC 0.97），但对主题内无法回答的问题检测效果很差（0.68）。确定性输出验证器将格式错误的输出转换为显式弃答，未观察到正确答案的损失，而我们测试的基于 NLI 的验证器几乎没有增加价值；对于 7B 模型，对标记为无法回答的问题的实质性回答中，96% 与检索段落的归一化片段匹配。3B 模型在不到一半的延迟和估计能耗下达到与 7B 模型相同的金标准答案包含率，尽管 7B 模型更常超过 0.5 的 token-F1 阈值；与三个检索段落相比，五个检索段落将正确率从 75% 降至 52%。验证签名包约需 4.5 毫秒，而在设备上嵌入其段落约需 29 分钟；仅签名和哈希检查会接受九种测试更新攻击中的六种，而分层验证会拒绝这些攻击。然而，一个有效签名的投毒包通过了所有包检查：在 30 个先前正确的问题上，正确答案降至零，14 个返回注入的答案。我们评估的机制均未确立证据的真实性。我们发布代码和数据。
| 评论： | 25 页，4 幅图，6 张表。代码和数据：此 https URL |
| 主题： | 密码学与安全（cs.CR）；人工智能（cs.AI）；机器学习（cs.LG） |
| 引用为： | arXiv:2610.33732 [cs.CR] |
| （或 arXiv:2610.33732v1 [cs.CR] 为此版本） | |
| https://doi.org/10.48550/arXiv.2610.33732 由 DataCite 颁发的 arXiv DOI（待注册） |
提交历史
来自：Georgios Feretzakis [查看电子邮件]
[v1]
2026 年 10 月 24 日星期六 15:23:25 UTC（157 KB）
来源：arXiv cs.AI · arxiv.org