vLLM 双向 KV 传输如何改善多轮智能体工作负载的 TTFT

vLLM 通过双向 KV 传输让 decode 节点在后续轮次把已生成的 KV 缓存回传 prefill 节点，减少重复预填充并改善 TTFT。在 Amazon EC2 P5en 的 1P1D 部署上，该机制最高将 TTFT 降低 1.6x（Qwen3-32B）和 3.3x（zai-org/GLM-5-FP8）。该能力已贡献给 vLLM，作为加速器无关特性在 GPU 上也有效。