iRAG:面向人在回路决策支持的增量式检索增强生成系统
研究者提出 iRAG,将 RAG 与混合决策结合,针对知识库初始为空、靠人类决策逐步填充的场景,把过往决策存为可检索先例,并从静默观察演进到有证据支撑的质疑,最终实现带弃权的自主处理。
研究者提出 iRAG,将 RAG 与混合决策结合,针对知识库初始为空、靠人类决策逐步填充的场景,把过往决策存为可检索先例,并从静默观察演进到有证据支撑的质疑,最终实现带弃权的自主处理。
该研究提出一套 LLM 驱动的自动化流水线,通过分块属性提取、分层路由和迭代精炼,将硬件数据手册转化为分层硬件知识图谱,并保留来源溯源。在 20 份硬件数据手册上,该框架实现 98.8% 属性忠实度,而一次性处理基线仅为 76.1%;该框架完整覆盖了基线 83.6% 的忠实属性,反向基线仅覆盖其 10.5%。
研究者提出 Lychee-Reranker,一种解耦查询与文档计算的 FBNL 重排序模型,通过离线编码文档与 cross-attention 建模相关性,提供 Nano、Small、Large 三个版本,激活参数分别为 0.27B、1B、4B。
研究者提出 SAFE-QE,一种免训练、与检索器无关的查询扩展方法,通过语料条件下的跨上下文可复现性对候选扩展词打分,将随机查询上下文中反复出现但伪相关集不支持的词判定为幻觉关联产物并降权。
研究者提出 PRISM(Population-Retrieved Inference for Structured Multimodal Prognosis),一种融合逐特征数值 token 化、纵向 ECG 近因加权聚合与双模态人群记忆库的多模态语言模型,检索在表示空间进行,不将单条记录写入提示词。
一种无需额外训练的稀疏 token 匹配方法,利用嵌入模型已计算的上下文 token 表示,让每个查询 token 在候选记忆中检索少量匹配 token,聚合得分后与整体记忆相似度结合排序。
KnowForge 用角色分工的智能体流水线做开放域多模态文档问答:Locator 只负责搜索,桥接裁判强制补上第二跳,Deep Reader 只读文本、图像和表格。
SmartSalesBench 是首个针对 LLM 销售智能体的多轮对话基准,让智能体面对具有心理依据、会抵抗和质疑的买家角色,对话最长 20 轮。基准包含 5 个智能体画像、12 个买家角色、覆盖 6 个价格档的 15 款手机产品,以及 4 组对照实验共 13,680 场会话,销售方与买家角色生成均基于 RAG。
针对德国法律法典,研究用结构驱动解析构建知识图谱来导航和检索源文档,并对比多种 KG 引导的分块与检索策略对引用准确率的影响。该方法旨在解决 RAG 在源文档数量和规模增大时检索性能下降、忽略关键上下文的问题,从而提升法律等可靠性关键场景中生成过程的可验证性。
CliQ-RRG 是一个两阶段框架,用于生成可解释、临床可溯源的 QA 式放射报告。第一阶段用疾病感知视觉-文本对齐模块结合预测的疾病嵌入对齐图像与文本表示,并由 Prior-Guided Attention Module(PrAM)捕捉当前与既往扫描的多视图依赖;第二阶段通过 GraphRAG 引导检索引入图结构临床证据,再由大语言模型重构为简洁的问答对与诊断摘要。
SEEDS 是一个预览引导的证据准入框架,让搜索智能体在每一步检索后先查看候选文档的轻量预览,再结合当前推理状态自行决定哪些、以及多少候选应被完整读取,而非按固定或排名前缀策略消费证据。在九个知识密集型 QA 基准上,覆盖本地语料与实时网页搜索,SEEDS 一致提升搜索效果并大幅减少完整证据消耗,且能直接接入现有推理智能体或通过学习进一步优化。
研究者发布 GeopoliticalQA 基准,覆盖 415 份开源地缘政治与战略情报报告、5,525 条文档锚定问答对,涵盖事实、推断、比较和风险四类问题。评测 15 个检索系统和 6 个开放权重 LLM 后发现,文档级检索表现相近,但在更难的 chunk 级检索上,中等规模开源编码器 bge-m3 可匹敌大其一个数量级的模型并优于商业 embedding API。
默读(Modu Reader)发布 1.2.7 版,这是一款基于 Flutter 的开源跨平台阅读器,支持电子书、PDF 与扫描图片书籍,覆盖 Windows、Linux、Android、macOS、iOS 与原生鸿蒙。
Yap 是一个基于 Llama 3.2 3B/1B Instruct(GGUF Q4_K_M)的本地对话式 AI 助手,通过 llama.cpp 在 CPU-only 上运行,面向 Debian 13 与 3-8 GB RAM 的教育硬件。
Hamel Husain 主编的演讲合集《Beyond Naive RAG》汇总 9 位检索专家的实战共识,指出 2023 年「切块 → 单向量 embedding → 余弦检索」的朴素 RAG 已失效,但 RAG 本身未死。该合集正文发布在 X 长文,来源标注为教程实践与 RAG 主题。
GitHub 项目 ai-engineer-vault 发布,定位为构建 AI 软件的实战手册,涵盖 RAG 应用、AI 智能体、MCP 工具、evals 与测试、token 成本控制、向量数据库、提示词设计和 LLM 应用结构。内容包含 12 章核心 AI 系统设计、50+ 真实应用构建模式,面向 AI 产品创始人、产品团队和工程师,提供从原型到生产的厂商中立参考。
vemb 是一款 Windows 命令行工具,可在本地为文本、图像、音频、视频和 PDF 生成嵌入向量,用于语义搜索和 RAG 流程。它要求 Windows 10 或 Windows 11,首次安装需联网,通过 `vemb embed myfile.pdf` 这类命令处理单个文件或整个文件夹。
DiegoCM1/Bluai 是一款面向墨西哥太平洋沿岸的飓风预警移动 App,提供实时飓风警报(SIAT-CT 等级、SMN/CONAGUA、OpenWeather)、地理定位事件地图和推送通知。
LoLLMs 发布 v2.3.0 "HeartBeat",提供多用户 FastAPI 后端与 Vue/Tailwind CSS 前端,基于 lollms_client 接入多种 LLM 后端并支持流式响应。
IntelliDoc Analyst 是一款多模型文档智能分析套件,采用 OpenAI GPT-4o、Claude 3.5 Sonnet 与本地 Llama 3.1 三层推理架构,支持跨文档综合、时间线提取与矛盾检测,并为每条结论提供可追溯引用与置信度评分。系统支持 47 种语言,兼容 Windows、macOS 与 Ubuntu,可通过 CLI 或 Web 界面运行。
GitHub 仓库 santosomar/AI-agents-for-cybersecurity 汇总了 Omar Santos 多门课程的资源,分为五个部分,覆盖聊天模型、嵌入向量、提示词工程、提示词链、RAG 与 AI 智能体。
pryank18/Msafara 用 LangGraph 智能体为旅行社和 DMC 做供应商协调,结合对供应商数据的 RAG、有界谈判、人工审批关卡和一套评测套件。项目无需 API key 即可运行。
ashlr-core-efficiency 发布,为 AI 编程智能体提供 token 效率基础模块,包含 genome RAG、三层上下文压缩、按 provider 感知的预算与 prompt 缓存辅助,由 ashlrcode CLI 和 Claude Code 的 ashlr-plugin 共用。
JulianFlux 提出用连续电动力学场替代余弦相似度等欧氏距离检索,通过 Julian-Gauss Fast Transform 将 768D 语义空间投影到 128D 流形,并用修正洛伦兹力 F = q(E + S) 路由 AI 智能体。
基于 fallow 安全分析引擎独立开发的 fallow-ai-security 新增 8 条 AI/LLM 专用安全规则,覆盖提示词注入、agent 工具滥用、数据外泄、RAG 投毒、MCP 工具注入等攻击向量,规则类别从 48 个增至 56 个。
Abstractly 是一款面向商业地产的 AI 工具,可将非结构化租约 PDF 提取为带页码引用的结构化数据,并与租金表自动核对以标记差异。其功能包括组合仪表盘、风险检测、基于引用的问答助手和租约对比,AI 提取由 Claude API 驱动,无 API key 时回退到内置规则引擎。项目为 Python/Flask 后端加原生 JavaScript 前端,Docker 部署,属个人作品集项目。
开源项目 vectorless-engine 发布,它把文档解析成层级章节树,查询时由 LLM 在树上导航并返回带页码引用的整节内容,不做分块也不生成嵌入向量。
rag_service 是一个基于 FastAPI 的后端应用,用于实现检索增强生成(RAG)功能,支持混合搜索与结果重排。项目采用 MIT 许可证开源,要求 Python 3.7 及以上、至少 4 GB 内存和 100 MB 磁盘空间,并提供 Windows、MacOS 和 Linux 安装包。用户可通过界面调整语言、创建用户配置文件以保存搜索历史与偏好。
PDF-QA-RAG-System 是一个可上传多个 PDF 并基于其内容提问的问答应用,核心由 Streamlit、LangChain、Ollama 和 Chroma 驱动,支持跨平台使用。用户可通过 Releases 页面下载对应系统的安装包,Windows 需 Windows 10 或更高版本,macOS 需 macOS 10.13 或更高版本,建议至少 4 GB 内存。
LLMxRay 是一款面向本地 LLM 的开源可观测性工具,通过 npx llmxray 或 Docker 一条命令启动,无需云端、API key 和费用。
Shodh 是一款桌面应用,可读取指定文件夹并回答问题,每个答案都标注来源文件与页码,文档解析、索引和嵌入均在本地完成。检索采用多语言 E5 向量与 BM25 关键词的混合搜索,经 reciprocal rank fusion 融合并用 cross-encoder 重排,支持 PDF、Word、Excel、图片 OCR 等格式。
AnythingLLM 是一款开源、私密的 AI 助手,可完全在本地设备上运行,支持 macOS、Windows、Linux 和移动设备,不依赖云端。它提供零配置本地运行、基于文档的 RAG 知识库索引,以及无需机器人的会议转录功能。
Enterprise Clinical Copilot(ECC)是一个全栈 AI 应用,用于帮助医护人员在患者出院时评估非计划再入院风险,目前部署在 GCP 上。
KroxenStudios 开源了 KroxAI-Mini,一个基于 EAM(证据增强模型)的轻量原型,将查询与证据映射为答案和分步协议,支持 RAG、可调服务器与两种 tokenizer,可本地运行。该项目于 2025 年 11 月 1 日发布,但开发已停止,官方称其尚不可直接使用。
RubyLLM 发布 2.1 版本,这是一个 Ruby 原生的 AI 框架,用一套一致的 API 在纯 Ruby 或 Rails 中调用模型、工具和智能体,支持 19 家供应商并可在托管与本地供应商之间切换,也能接入任意 OpenAI 兼容端点。
dennisglouki 开源了 RAG_Chatbot_for_CV,一个用于展示个人简历的端到端 RAG 应用,用户查询经 Gemini API 嵌入后由 FAISS 向量索引做语义检索,再由 Gemini 3.8 Flash 基于简历和研究文档生成回答。
Yii3 开源演示项目 yiisoft/demo-summarizer 支持上传 Markdown、文本、HTML、PDF、DOCX 文档,经 Kreuzberg v4 LTS 提取为 markdown 后由本地 llama.cpp 服务生成摘要,默认模型为 gemma-3-1b-it-Q4_K_M。
ManifestCV 将一份私有职业知识库转化为针对每个职位描述定制的 AI 辅助简历:粘贴一次职业材料,由 Gemini 结构化为可编辑 Markdown,经 Qdrant 语义检索出与岗位相关的片段,再由 Resume Studio 生成并迭代简历,最终用内置 tectonic 渲染成 PDF。
Curtis AI Chat 为 Obsidian 提供智能体层,在单一侧边栏接入 53 家模型提供商,从 OpenAI 到 Ollama。其 Curtis Agent 内置 12 个工具,可读写笔记、调用 MCP 服务器、学习技能并保存记忆,对话以 markdown 形式存于 vault 中。
Local-RAG 是一款 Windows 桌面阅读应用,可连接 PDF/EPUB 文件夹并用本地 GPU 通过 llama.cpp 完成回答、嵌入与重排,全程无需云服务。