安装¶ vLLM 支持以下硬件平台 GPU NVIDIA CUDA AMD ROCm Intel XPU CPU Intel/AMD x86 ARM AArch64 Apple silicon IBM Z (S390X) 硬件插件¶ vLLM 支持存在于 vllm 主仓库之外的第三方硬件插件。这些插件遵循 硬件可插拔 RFC。 所有支持的硬件列表可在 vLLM 网站上找到，请参阅 通用兼容性 - 硬件。 如果您想添加新硬件，请通过 Slack 或 电子邮件 与我们联系。