从 Web 智能体中删除 RAG 后速度提升 2.3 倍
一个 Web 智能体在移除 RAG 后运行速度提升 2.3 倍。该改动说明 RAG 检索环节可能成为此类智能体的性能瓶颈,去掉后整体响应更快。
一个 Web 智能体在移除 RAG 后运行速度提升 2.3 倍。该改动说明 RAG 检索环节可能成为此类智能体的性能瓶颈,去掉后整体响应更快。
Google 发布开源嵌入模型 EmbeddingGemma 2,参数规模 7.4 亿,可将文本、图像、视频、音频和代码转换为向量。该模型支持端侧运行,仅需约 191 MB 内存,Google 称其表现优于部分参数量为其两倍的竞品。与 Gemma 4 等小型开源模型搭配,可在不向外部服务器发送数据的情况下运行离线 RAG 应用。
针对生成式信息检索(GIR)中 DocID 语义设计缺乏系统分析的问题,该研究对语义 ID 空间展开系统性考察,指出现有方法依赖计算昂贵的下游评测,阻碍了快速迭代。研究聚焦"什么样的 DocID 才算好"这一核心问题,为语义 ID 设计提供更高效的分析路径。
在 NQ320K 和 MS300K 上,研究者用残差量化、乘积量化和随机标识符分别训练自回归、掩码扩散与块扩散模型,在固定标识符长度和训练预算下对比多种解码方式。仅解码方式一项就能让扩散模型的 Hit@1 波动 6.6 至 13.7 个点,说明此前把差异归因于扩散范式并不成立。
EmbeddingGemma 2 与 Gemma 4 搭配,以更低的内存占用实现高效的端侧检索增强生成(RAG)。EmbeddingGemma 2 负责检索本地文件,Gemma 4 对其推理并给出有依据的答案,且完全保护隐私。
RAG-PIBench 是一个面向 RAG 提示注入检测的基准,包含 4,876 条上下文样本,划分为冻结的训练、验证与受保护测试集,并采用泄漏感知构建流程与严格评测协议。研究对比了关键词、语义参考、TF-IDF 与 Transformer 检测器,其中 DistilBERT 在受保护测试集上表现最佳,F1 达 0.896,PR-AUC 达 0.968。
UNREAL 是一个模型原生的证据选择框架,用同一套模型内部机制同时覆盖语料检索与长上下文推理。它直接从冻结 LLM 的内部表示中编码文本块并生成检索查询,仅新增不到 500K 可训练参数。
Agentic AutoRAG 提出用推理驱动的智能体来优化 RAG 流水线配置,把分块、嵌入模型、重排序到生成等多个相互影响的超参数选择交给智能体处理。现有从贪心搜索到贝叶斯优化的方法只把每次试验压缩成一个总分,不建模配置为何表现如此,而检索到的文本块其实已提供了失败发生在检索还是生成阶段的证据。
研究用 EverMemBench 对分层检索的记忆深度与上下文宽度做受控评估,测试 D1-D4 四档深度、1,024/2,048/4,096 token 核心预算,以及 Production 与 Oracle 条件直至完整存档。上下文宽度从 1K 提升到 4K 可提高 Accuracy。
研究在 KyGround 基准上对比工具调用检索与向量 RAG,该基准含 198 个问题,取自希腊 Kythera 一个希腊语-英语农业平台的公开记录,每题最多 9 种问法,包括无重音希腊语、全大写及三种 Greeklish 拉丁字母写法。以 Claude Haiku 4.5 作为路由与回答模型,比较两者准确率及对用户希腊语输入方式的鲁棒性。
QRAKEN 是一个免训练、本体无关的神经符号流水线,用图谱实际数据而非 schema 预期来约束 LLM 生成,以解决陌生图谱上 Text-to-SPARQL 查询看似合法却误读数据模型的问题。其离线蒸馏器产出 TTQL,用于紧凑描述已填充的多跳模式、条件频率与路径条件下的字面量示例,并附带类-属性共现矩阵。
多模态助手从含图像的长期记忆中检索答案时,每张图以约一千个视觉 token 的像素形式送入模型代价高昂。PixelTriage 作为检索后的插件,用一个小模型在不读取任何全分辨率图像的情况下,提前预测哪些检索记忆值得用像素。研究发现像素带来的收益通常只来自一两张检索记忆。
Redpine Science 通过 MCP 和 API 为模型与智能体提供经同行评审文献的统一访问入口。该报告从两个层面评估它:检索片段的相关性,以及模型接入 Redpine Science 后与使用网页搜索时的回答对比,同时采用公开基准和专家验证基准,以规避公开基准饱和与记忆化风险。
RELER 是一个强化学习框架,让现有嵌入模型直接在嵌入空间中学习检索并对齐任务特定奖励。它从以归一化编码器输出为中心的 von Mises-Fisher(vMF)分布中采样单位长度的查询与文档嵌入动作进行训练,以解决对比学习目标不直接优化检索指标或下游任务表现的问题。
微软为 Word 中的 Copilot 新增引用功能,回复会附带来源链接,用户可点击跳转至原始网页或内部文档核实信息,微软称此举提高了透明度,以遏制 AI 幻觉。Copilot Chat 的设计与功能也得到优化,Copilot App 增加插件、连接器及 Work IQ 增强,PowerPoint 中新增技能与连接器。
Halo 是一款面向 iOS 的隐私优先个人 AI 助手,采用自建 agent harness,可复用用户已有的 LLM 订阅,并配备基于端侧 RAG 的 Wiki 记忆系统和完整的本地浏览器智能体。它无需服务器即可运行,支持生成式 UI 聊天,并主打主动式功能与体验,作者称其为 iOS 上 Hermes/OpenClaw 的更好版本。
Databricks 在 Databricks Runtime 中推出 NEAREST BY join 语法,将批量向量搜索实现为引擎原生的 top-k 排名 join,而非调用外部实时端点。
Google Cloud 发布系列实验,演示用 AlloyDB 和 Cloud SQL 为生产级 AI 准备数据:在数据库中生成文本嵌入做语义搜索,为 RAG 提供 grounding,并支持多模态嵌入实现图文混合检索。AlloyDB 还提供 AI.IF 等 AI 函数,无需数据准备即可用自然语言查询过滤和重排结果,QueryData 支持用对话式语言生成 SQL 并构建数据智能体。
微软等机构提出 CorpusMap,预先解析文档集合中的重复实体,为每个实体生成链接所有相关文档的页面,原始文档保持原位。智能体读完一篇文档后可沿实体跳转到相关文档,避免重复搜索同一证据。在 7 个模型和 3 个基准上,答案质量提升 6.4 至 11.7 分,输入 token 减少 34% 至 57%,并优于 LLM Wiki 层等三种导航层;该地图无需 LLM 调用即可构建,并支持随新文档更新。
在 Amazon Bedrock Managed Knowledge Base 上用 LangChain 构建 RAG 应用,可让智能体检索处理单次检索难以回答的多部分问题。同一查询分别走两条检索路径,通过 trace 事件对比各自表现与成本。
MIT Technology Review 对 300 名数据与 AI 高管的调研显示,企业平均仅约 34% 的智能体 AI 项目能进入生产环境,遗留数据系统、安全隐私顾虑以及知识与上下文缺失是主要失败点。
论文提出 AI-decision checkpoints,即在流程开发轨迹中显式设置节点,让流程开发者识别 AI 作为端到端流程一等设计要素的决策时刻。该框架针对 BPM 课程与框架仍将 AI 视为附加技术的现状,并给出了一个教学实例。
论文提出 Agentic-ZTA,一种基于 Agentic AI 的零信任架构,通过多智能体协同决策流水线实现 NIST SP 800-207 ZTA 架构控制闭环。该框架将策略知识嵌入检索增强生成(RAG)流水线,在推理时检索 top-k 相关策略,用于处理访问请求。
研究探讨了在 ReAct 智能体循环中结合 LLM 推理能力与检索器语料探索的智能体检索方法,用于解决复杂检索任务。实验表明,智能体检索比标准稠密检索更有效,但正文未给出具体提升幅度与成本数据。
一项控制研究发现,在固定候选预算和下游决策规则下,改进多语言 E5 编码器的名称检索可将直接配对召回率从 53.74% 提升至 76.98%,但主匹配器仅新增 7 个聚类。研究在 GLEIF 新样本的 3,633 个名称、2,880 个源身份和 882 个银标签正例对上评估,候选边达 72,660。
针对第一视角助手需跨场景回忆空间信息的难题,研究者提出 Spatially grounded Conversational Memory(SpaC-MEM),一种以对象为中心的工作记忆,用于处理跨场景、回忆导向和反事实的空间查询。
作者 kmeh 认为市面上的 Agent 记忆插件架构错误:它们用会话记录生成片段存入 RAG 数据库,每次提示词检索注入最相似的片段。他指出这种方式存在相似度检索无法判断正确性、片段丢失上下文、无法审计等问题,主张 Agent 应改用文档式记忆。
针对"始终检索"范式迫使 LLM 智能体不信任内部知识、造成热力学浪费的问题,研究者提出通过自调节记忆架构对参数化与非参数化知识进行热力学仲裁。该方法让智能体在检索前先权衡内部直觉与外部查询,而非将每次交互都视为从零开始。
针对 LLM 在伦理判断问题上的不足,研究者提出规范性 RAG,用外部规范知识支撑伦理判断,并给出 IREA——基于中间表示的嵌入对齐方法,以应对叙事型查询与概括性规范陈述之间的不对称。
一项研究提出"水印幻觉"概念:即使证据已在上下文中、未加水印的模型能正确作答,加水印仍会诱发或放大事实错误。研究在受控 RAG 设置下,用相同上下文、查询和解码配置对比六种代表性水印方法的生成结果,量化其事实准确率下降。
MRVQ(Matryoshka Residual Vector Quantization)是一种针对冻结嵌入向量的后处理残差量化器,其最高码率编码可通过两种方式截断:丢弃残差阶段降低码率,丢弃嵌入坐标降低维度,从而用单一常驻索引服务多种维度与码率配置。
CLIMB 是一个免训练的多模态 RAG 推理时框架,先构建紧凑的互补证据,再用置信度引导判断答案更新是否被检索证据充分支持。它针对现有系统依赖 Top-K 检索或重排序、易返回冗余段落且对答案更新缺乏控制的问题。
Context7 是一个为 LLM 和 AI 代码编辑器提供最新代码文档的平台。它由 upstash 推出,旨在解决 AI 编程工具因训练数据过时而引用陈旧 API 的问题。
HKUDS 的 LightRAG 是一个简单快速的检索增强生成(RAG)项目,相关论文已被 EMNLP2025 收录。该项目以简洁高效为设计目标,代码已在 GitHub 开源。
针对记忆增强大语言模型仅依赖已检索记忆估计效用、未被检索的记忆效用无法识别的问题,研究者提出因果框架 Causal Memory Policy(CMP),通过直接干预检索本身恢复可识别性,并预留固定比例用于干预。该问题被定义为检索层面的 positivity 违背,仅检查记忆操作的诊断方法无法发现。
一篇综述提出用效率、防御、交互性与推理四个维度构建 RAG 分类法,以覆盖超越核心架构与标准流程的近期研究。该综述指出,LLM 受限于静态的参数化知识且易产生幻觉,RAG 通过引入外部检索将输出锚定在可验证、最新的来源上。
RAGFlow 是一款领先的开源检索增强生成(RAG)引擎,将前沿 RAG 与 Agent 能力融合,为 LLM 构建更优的上下文层。
RPTune 提出面向 LLM 商品目录搜索的学习式上下文筛选方法,针对目录可放入长上下文窗口的中小商家,研究如何筛选并呈现目录、以及如何让 LLM 适配筛选后上下文中的商品选择。该方法指出,把完整目录塞进上下文窗口并不保证模型能有效利用,因为 LLM 对长上下文的利用并不均匀。
Shubhamsaboo/awesome-llm-apps 收录了 100+ AI 智能体、Agent Skills 与 RAG 应用,全部免费开源。该项目在 GitHub 上发布,供开发者直接获取和使用这些应用。
AGO AI Quality Gate(AGO)是一个面向工业级 RAG 评估场景的"证据优先"质量门禁框架,用于决定系统版本是放行、修改还是拦截。它包含四态决策模型,将数据缺失与 LLM 评判错误作为显式结果,并结合确定性检查、本地护栏与结构化 LLM 评估的分层打分。