基准测试套件

vLLM 提供全面的基准测试工具，用于性能测试和评估。

• 基准测试 CLI：vllm bench CLI 工具和专门的基准测试脚本，用于交互式性能测试。
• 参数扫描：自动运行 vllm bench 以测试多种配置，适用于 优化和调优。
• 性能仪表盘：自动化的 CI，可在每次提交时发布基准测试结果。