跳到正文
arXiv cs.AI· Henry Han·· 11 小时前AI 评分31

提升压缩 AI 智能体记忆的局部与全局结构

Enhancing Local and Global Structure in Compressed AI Agent Memory

AI 导读

研究提出局部感知量化(LAQ),首次将远端全局保真度 G 的证明上界转化为 OPQ 索引码本的 hinge 目标,在全部 52 次留出运行中提升 G(p=8.5×10⁻⁴,覆盖 13 个记忆编码器组),并在 12 次 Multi-Doc-2025 运行中于七种等大小量化器中取得最高 G。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:AI 智能体将文本存储为嵌入向量,并在大规模下对其进行压缩。当每个条目的最近邻得以保留时,压缩即被接受,但智能体还会整合、删除和比较记忆,这些任务取决于哪些条目彼此相距较远。我们用此前工作中两个无需标签的保真度来评估两端:10 个近邻处的局部保真度 $L$,以及记忆的 30% 至 50% 处的全局保真度 $G$。在每段 96 字节时,重打分的二进制码达到 $L$ 为 0.97,却将 10.1% 的段落移到另一主题;采用 8 位码的 PCA 在 $L$ 为 0.77 时,仅移动 1.7%。重打分不改变存储的编码,因而 $G$ 不变。我们证明,在整个 $G$ 区间内,$1-\nu_k$ 至多为近远秩违例率平方根的 2 至 2.18 倍,且该违例率遵循压缩的距离噪声(相关性 0.979)。我们的局部性感知量化(LAQ)将该界转化为 OPQ 索引码本上的铰链目标,同时保留其字节、旋转和搜索。据我们所知,LAQ 是首个目标源自远端已证明界的量化器。仅重建在 52 次留出运行中有 0 次提升 $G$;远端铰链在全部 52 次中均提升。LAQ 在全部 52 次中提升 $G$(在 13 个记忆编码器组上 $p=8.5\times 10^{-4}$),包括外部 FinDER 记忆,在全部 12 次 Multi-Doc-2025 运行中在七个同等大小量化器中具有最高 $G$,可扩展到百万段落,并保持证据召回。
评论: 28 页,12 幅图,10 张表
主题: 人工智能(cs.AI)
引用为: arXiv:2611.08341 [cs.AI]
  (或 arXiv:2611.08341v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.08341

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Henry Han [查看电子邮件]
[v1] 2026 年 11 月 5 日星期四 17:27:08 UTC(2,703 KB)

来源:arXiv cs.AI · arxiv.org