跳到正文
arXiv·· 15 天前AI 评分31

JIL:利用长度预测攻击 LLM 调度器

Jumping the Line: Exploiting Length Predictions in LLM Scheduling

AI 导读

研究者提出 JIL,一种针对基于预测的 LLM 调度器的攻击方法,通过操纵调度信号让请求获得更高优先级、缩短完成时间。以 TRAIL 为案例,JIL 优化对抗后缀,使轻量级输出长度探针低估请求的输出长度。

来源:arXiv · arxiv.org