跳到正文
arXiv cs.AI· Mohan Bheemadolu, Chrisogonas O. Odhiambo·· 11 小时前AI 评分31

FlyHash 用于 LLM 智能体记忆:实证验证与新应用

FlyHash for LLM Agent Memory: An Empirical Validation and a New Application

AI 导读

研究首次将果蝇嗅觉回路启发的 FlyHash 应用于 LLM 智能体记忆检索,在 10 个随机种子、覆盖两种模态的四个数据集上验证其质量优势在比特数匹配协议下依然稳健,并纠正了一个此前未记录的对比陷阱。但该优势未转化为实际收益:等比特下 FlyHash 编码更大、比较更慢,HNSW 在常规规模下优于两种哈希方法。在非循环的真实智能体记忆相关性标签下,FlyHash 的优势同样成立。

正文 · AI 翻译

查看 PDF HTML(实验性)

摘要:大语言模型(LLM)智能体越来越依赖外部记忆存储来在对话之间保留信息,通常通过稠密向量嵌入并配合近似最近邻方法进行检索。果蝇的嗅觉回路使用一种截然不同的机制来计算感觉输入的局部敏感哈希——稀疏随机投影后接赢者通吃竞争——而先前的工作(Dasgupta 等,2017)表明,这种被称为 FlyHash 的方案在若干基准上,每比特保留邻居结构的效果优于传统的随机超平面哈希(SimHash)。我们将 FlyHash 应用于 LLM 智能体记忆检索(据我们所知这是首次),并提出实践者真正需要回答的三个问题:在正确匹配比特数的协议下,质量优势是否依然成立(成立,且稳健,跨 10 个随机种子和涵盖两种模态的四个数据集,同时我们识别并纠正了过程中一个具体且此前未记录的对比陷阱);这一优势是否能转化为实际的记忆和延迟节省,包括与当今实践者默认使用的稠密向量索引(HNSW)相比(不能:在相同比特数下,FlyHash 的编码比 SimHash 更大且比较更慢,而在常规规模下 HNSW 优于两种哈希方法;我们引入的一种稀疏集合比较挽回了大部分但并非全部的朴素延迟差距,使得哈希方法的实际适用场景比单纯的质量结果所暗示的更窄、更具体);以及这一优势能否在真实的、非循环的智能体记忆相关性标签下依然成立,而非该文献通常依赖的基于嵌入的最近邻代理(成立)。我们精确报告了全部三个答案,包括那两个收窄而非美化主要结果的答案,并发布了我们的实现、一个可运行的智能体记忆演示,以及对我们发现并纠正的方法论陷阱的完整说明。
评论: 19 页。代码、数据和交互式演示:此 https URL(存档于 此 https URL)
主题: 人工智能(cs.AI);机器学习(cs.LG)
引用为: arXiv:2611.05791 [cs.AI]
  (或 arXiv:2611.05791v1 [cs.AI] 用于此版本)
  https://doi.org/10.48550/arXiv.2611.05791

由 DataCite 颁发的 arXiv DOI(待注册)

提交历史

来自:Chrisogonas Odhiambo [查看邮箱]
[v1] 2026 年 11 月 4 日星期三 00:57:24 UTC(46 KB)

来源:arXiv cs.AI · arxiv.org