基准测试套件¶ vLLM 提供全面的基准测试工具,用于性能测试和评估。 基准测试 CLI:vllm bench CLI 工具和专门的基准测试脚本,用于交互式性能测试。 参数扫描:自动运行 vllm bench 以测试多种配置,适用于 优化和调优。 性能仪表盘:自动化的 CI,可在每次提交时发布基准测试结果。