基准测试套件

vLLM 提供全面的基准测试工具，用于性能测试和评估

• 基准测试 CLI：vllm bench CLI 工具及用于交互式性能测试的专用基准测试脚本。
• 参数扫描：针对多种配置自动执行 vllm bench 运行，适用于优化和调优。
• 性能仪表盘：在每次提交时发布基准测试结果的自动化 CI。