Dockerfile¶
我们提供了一个 docker/Dockerfile 用于构建镜像,以便使用 vLLM 运行兼容 OpenAI 的服务器。有关使用 Docker 部署的更多信息,请参阅此处。
下面是多阶段 Dockerfile 的可视化表示。构建图包含以下节点
- 所有构建阶段
- 默认构建目标(灰色高亮)
- 外部镜像(虚线边框)
构建图的边表示
-
FROM ...
依赖关系(实线和实箭头) -
COPY --from=...
依赖关系(虚线和空箭头) -
RUN --mount=(.\*)from=...
依赖关系(点线和空菱形箭头)
![]()
使用以下工具生成: https://github.com/patrickhoefler/dockerfilegraph
重新生成构建图的命令(请确保在 vLLM 仓库的 `root` 目录中运行,该目录包含 dockerfile)
dockerfilegraph \ -o png \ --legend \ --dpi 200 \ --max-label-length 50 \ --filename docker/Dockerfile
或者如果您想直接使用 docker 镜像运行它
docker run \ --rm \ --user "$(id -u):$(id -g)" \ --workdir /workspace \ --volume "$(pwd)":/workspace \ ghcr.io/patrickhoefler/dockerfilegraph:alpine \ --output png \ --dpi 200 \ --max-label-length 50 \ --filename docker/Dockerfile \ --legend
(要为不同的文件运行它,您可以为标志
--filename
传递不同的参数。)