跳到内容

Dockerfile

我们提供了一个 docker/Dockerfile 用于构建镜像,以便使用 vLLM 运行兼容 OpenAI 的服务器。有关使用 Docker 部署的更多信息,请参阅此处

下面是多阶段 Dockerfile 的可视化表示。构建图包含以下节点

  • 所有构建阶段
  • 默认构建目标(灰色高亮)
  • 外部镜像(虚线边框)

构建图的边表示

  • FROM ... 依赖关系(实线和实箭头)

  • COPY --from=... 依赖关系(虚线和空箭头)

  • RUN --mount=(.\*)from=... 依赖关系(点线和空菱形箭头)

query

使用以下工具生成: https://github.com/patrickhoefler/dockerfilegraph

重新生成构建图的命令(请确保在 vLLM 仓库的 `root` 目录中运行,该目录包含 dockerfile)

dockerfilegraph \
  -o png \
  --legend \
  --dpi 200 \
  --max-label-length 50 \
  --filename docker/Dockerfile

或者如果您想直接使用 docker 镜像运行它

docker run \
   --rm \
   --user "$(id -u):$(id -g)" \
   --workdir /workspace \
   --volume "$(pwd)":/workspace \
   ghcr.io/patrickhoefler/dockerfilegraph:alpine \
   --output png \
   --dpi 200 \
   --max-label-length 50 \
   --filename docker/Dockerfile \
   --legend

(要为不同的文件运行它,您可以为标志 --filename 传递不同的参数。)