nokast-secureRAG：小模型检测RAG提示注入
热点事件持续更新
nokast-secureRAG：小模型检测RAG提示注入
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
Abhishek Rai 发布论文，提出约 0.5B 参数的小语言模型 nokast-secureRAG，部署在检索与生成之间，联合评估用户查询与检索上下文，将输入分类为安全、可疑或恶意。模型、数据生成流程和评测工具已开源。 训练数据由 35B 教师模型生成 5,233 条样本，再由 120B 独立评判模型重标注，两者一致率为 95.0%。在分布内测试集上，该模型报告 0.994 的检出召回率、0.026 的误报率和 0.006 的攻击成功率代理指标。 但在外部 PoisonedRAG 基准上，其召回率降至接近零。作者称，流畅的事实投毒攻击不在该检测器所针对的指令一致性威胁模型范围内。
AI 根据报道生成 · 55 分钟前更新
最新进展10月21日 12:00
nokast-secureRAG：用约 0.5B 小模型在 RAG 管线中检测上下文感知的提示词注入报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- arXiv cs.AInokast-secureRAG：用约 0.5B 小模型在 RAG 管线中检测上下文感知的提示词注入
nokast-secureRAG 是一个约 0.5B 参数的小语言模型，作为检索与生成之间的语义防火墙，联合评估用户查询与检索上下文并分类为安全、可疑或恶意。其教师-评判-学生流程由 35B 教师模型生成 5,233 条样本、120B 独立评判模型重标注（一致率 95.0%），在分布内测试集上实现 0.994 检出召回率、0.026 误报率和 0.006 攻击成功率代理指标。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。