跳到正文
热点事件持续更新

EffComp:混合训练实现高效提示压缩

1 篇报道1 个报道来源9 小时前更新

先了解这件事

AI 综述

Romtham Tungsununtham 等作者提出面向 RAG 问答的提示词压缩框架 EffComp。它用 BERT 风格的文档重排器和句子选择器在句子级别做抽取式压缩,作者称抽取式特性可避免压缩后提示词出现模型幻觉;训练结合强化学习与监督学习,在保持 LLM 准确率的同时优化压缩比。 作者称,在多个 QA 数据集上,EffComp 在压缩比与准确率之间取得优于 SOTA 提示词压缩方法的权衡,且延迟极低。这些效果均为论文作者的说法,尚未经独立验证。

AI 根据报道生成 · 49 分钟前更新

报道时间线

沿着报道,了解事件的不同侧面。

11月4日
  1. arXiv cs.CL
    EffComp:用混合强化学习与监督学习实现高效提示词压缩

    EffComp 是一个面向 RAG 问答的高效提示词压缩框架,采用 BERT 风格的文档重排器与句子选择器在句子级别做快速抽取式压缩,抽取式特性可避免压缩后提示词出现模型幻觉。其训练结合强化学习与监督学习,在保持 LLM 准确率的同时优化压缩比。在多个 QA 数据集上,EffComp 在压缩比与准确率之间取得优于 SOTA 提示词压缩方法的权衡,且延迟极低。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。