跳到正文
RadarAI· Gorden Sun·· 6 小时前AI 评分38

billion-context:节省上下文的 Agent 插件

AI 导读

billion-context 是一款 AI 模型上下文管理插件,作为客户端与大模型之间的中继站,支持单次长会话数十亿 token,前缀缓存命中率达 95% 以上。它通过压缩、还原、搜索等工具管理上下文,显著降低消耗。

来源:RadarAI · bestblogs.dev