Neuralwatt 分析 agent harness 对缓存与能耗的影响
热点事件持续更新
Neuralwatt 分析 agent harness 对缓存与能耗的影响
1 篇报道1 个报道来源22 小时前更新
先了解这件事
AI 综述
Neuralwatt CEO Chad Gibson 基于 2026 年 9 月 8 日至 10 月 7 日的云上流量分析称,不同 agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间;92% 的缓存率相比 97% 意味着约 2.7 倍的 prefill 计算。 Gibson 称,在 Neuralwatt 上,X-NW-Conversation-ID 可让会话留在已持有其缓存的服务器上,即使经过 compaction 也是如此;对 omp,可考虑设置 compaction.supersedeReads: false。Neuralwatt 仪表盘的 Session Insights 会逐轮显示每个 agent 会话的提示词有多少来自缓存、多少需冷计算,以及首 token 时间、实测能耗与成本,但不显示提示词或补全文本。
AI 根据报道生成 · 13 小时前更新
最新进展10月17日 05:01
Neuralwatt 分析 agent harness 如何影响缓存与能耗效率报道时间线
沿着报道,了解事件的不同侧面。
10月17日
- Hacker NewsNeuralwatt 分析 agent harness 如何影响缓存与能耗效率
Neuralwatt CEO Chad Gibson 基于 2026 年 9 月 8 日至 10 月 7 日的云上流量指出,不同 agent harness 的未缓存输入占比在 1.6% 到 11.1% 之间,92% 缓存率相比 97% 意味着约 2.7 倍的 prefill 计算。
本事件热度走势
- 可比范围当前
- 6
- 可比范围峰值
- 810月17日 14:00
- 近 24 小时变化
- –
02468
14:0016:0018:0020:0022:0010月18日02:00
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。