SGLang vs vLLM：你的 Agent 慢，是因为缓存选错了

如果你在生产环境里跑 LLM agent，大概已经看过这周的那组数据：在多轮 agent 工作负载、系统上下文为 8000 token 的情况下，SGLang 的 RadixAttention 把首字延迟（TTFT，从请求发出到吐出第一个 token 的时间）从 440ms 压到 38ms，提速 11.57 倍；vLLM v0.6 搭配前缀缓存则是从 480ms 降到 92ms，提升 5.21 倍（测试模型为 Qwen2.5-Coder-32B-Instruct-AWQ）。这组数据来自 NextByteTech 在 Dev.to 上那篇对比 ollama、vLLM 和 SGLang 的文章（2