Dockerfile

Dockerfile#

我们提供了一个 Dockerfile,用于构建运行与 vLLM 兼容 OpenAI 服务器的镜像。关于使用 Docker 部署的更多信息,请点击此处查看。

以下是多阶段 Dockerfile 的可视化表示。构建图包含以下节点

  • 所有构建阶段

  • 默认构建目标(灰色高亮显示)

  • 外部镜像(虚线边框)

构建图的边表示

  • FROM ... 依赖项(实线和实心箭头)

  • COPY --from=... 依赖项(虚线和空心箭头)

  • RUN --mount=(.\*)from=... 依赖项(点线和空心菱形箭头)

    query

    使用以下工具制作: patrickhoefler/dockerfilegraph

    重新生成构建图的命令(请确保从 vLLM 仓库的 `root` 目录运行,Dockerfile 位于该目录中)

    dockerfilegraph -o png --legend --dpi 200 --max-label-length 50 --filename Dockerfile
    

    或者,如果您想直接使用 docker 镜像运行

    docker run \
       --rm \
       --user "$(id -u):$(id -g)" \
       --workdir /workspace \
       --volume "$(pwd)":/workspace \
       ghcr.io/patrickhoefler/dockerfilegraph:alpine \
       --output png \
       --dpi 200 \
       --max-label-length 50 \
       --filename Dockerfile \
       --legend
    

    (要为不同的文件运行,您可以将不同的参数传递给标志 --filename。)