Dockerfile

Dockerfile#

我们提供了一个 docker/Dockerfile 来构建镜像,用于运行与 vLLM 兼容的 OpenAI 服务器。 关于使用 Docker 部署的更多信息,请点击此处查看。

下面是多阶段 Dockerfile 的可视化表示。构建图包含以下节点

  • 所有构建阶段

  • 默认构建目标 (灰色高亮显示)

  • 外部镜像 (虚线边框)

构建图的边表示

  • FROM ... 依赖关系 (实线和实心箭头)

  • COPY --from=... 依赖关系 (虚线和空心箭头)

  • RUN --mount=(.*)from=... 依赖关系 (点线和空心菱形箭头)

    query

    使用以下工具制作: patrickhoefler/dockerfilegraph

    重新生成构建图的命令 (请确保从 vLLM 仓库的 root 目录运行,其中 dockerfile 存在)

    dockerfilegraph -o png --legend --dpi 200 --max-label-length 50 --filename docker/Dockerfile
    

    或者,如果您想直接使用 docker 镜像运行

    docker run \
       --rm \
       --user "$(id -u):$(id -g)" \
       --workdir /workspace \
       --volume "$(pwd)":/workspace \
       ghcr.io/patrickhoefler/dockerfilegraph:alpine \
       --output png \
       --dpi 200 \
       --max-label-length 50 \
       --filename docker/Dockerfile \
       --legend
    

    (要为不同的文件运行它,您可以将不同的参数传递给标志 --filename。)