ARK：分离式LLM推理KV缓存传输的路由避碰机制
热点事件观察中
ARK：分离式LLM推理KV缓存传输的路由避碰机制
1 篇报道1 个报道来源1 天前更新
先了解这件事
AI 综述
Hung-Chun Lin等作者提出并发表了一种名为 ARK 的分布式大象流路径预留机制，用于在分离式 LLM 推理中传输 KV Cache 时规避路由冲突。其做法是协调发送方选择源端口，使并发流的哈希映射到不同 spine 链路，从而避免 ECMP 哈希冲突，且无需改动交换机或由接收端重排数据包。 在中等负载的包级 RDMA 模拟中，ARK 将平均和 P95 流完成时间（FCT）分别最多降低 27.3% 和 34.0%，平均首 token 时延（TTFT）最多降低 12.9%。该成果发表于 ACM SIGCOMM 2026。
AI 根据报道生成 · 49 分钟前更新
最新进展11月2日 13:00
ARK：为分离式 LLM 推理中的 KV Cache 传输规避路由冲突报道时间线
沿着报道，了解事件的不同侧面。
11月2日
- arXiv cs.AIARK：为分离式 LLM 推理中的 KV Cache 传输规避路由冲突
ARK 是一种分布式大象流路径预留机制，通过协调发送方选择源端口，使并发流的哈希映射到不同 spine 链路，从而避免 ECMP 哈希冲突，且无需改动交换机或接收端重排数据包。在中等负载的包级 RDMA 模拟中，ARK 将平均和 P95 FCT 分别最多降低 27.3% 和 34.0%，平均 TTFT 最多降低 12.9%。该成果发表于 ACM SIGCOMM 2026。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。