AIBrix

AIBrix 是一个与 vLLM 集成的云原生控制平面，旨在简化大语言模型推理在 Kubernetes 上的部署、扩缩容、路由和 LoRA 适配器管理。

有关安装和使用说明，请参阅 AIBrix 文档。