跳到正文
热点事件持续更新

Neuralwatt 分析 agent harness 对缓存与能耗的影响

1 篇报道1 个报道来源22 小时前更新

先了解这件事

AI 综述

Neuralwatt CEO Chad Gibson 基于 2026 年 9 月 8 日至 10 月 7 日的云上流量分析称,不同 agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间;92% 的缓存率相比 97% 意味着约 2.7 倍的 prefill 计算。 Gibson 称,在 Neuralwatt 上,X-NW-Conversation-ID 可让会话留在已持有其缓存的服务器上,即使经过 compaction 也是如此;对 omp,可考虑设置 compaction.supersedeReads: false。Neuralwatt 仪表盘的 Session Insights 会逐轮显示每个 agent 会话的提示词有多少来自缓存、多少需冷计算,以及首 token 时间、实测能耗与成本,但不显示提示词或补全文本。

AI 根据报道生成 · 13 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月17日
  1. Hacker News
    Neuralwatt 分析 agent harness 如何影响缓存与能耗效率

    Neuralwatt CEO Chad Gibson 基于 2026 年 9 月 8 日至 10 月 7 日的云上流量指出,不同 agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间,92% 缓存率相比 97% 意味着约 2.7 倍的 prefill 计算。

本事件热度走势

可比范围当前
6
可比范围峰值
810月17日 14:00
近 24 小时变化
–

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。