Dockerfile#
我们提供了一个 docker/Dockerfile 来构建镜像,用于运行与 vLLM 兼容的 OpenAI 服务器。 关于使用 Docker 部署的更多信息,请点击此处查看。
下面是多阶段 Dockerfile 的可视化表示。构建图包含以下节点
所有构建阶段
默认构建目标 (灰色高亮显示)
外部镜像 (虚线边框)
构建图的边表示
FROM ...
依赖关系 (实线和实心箭头)COPY --from=...
依赖关系 (虚线和空心箭头)RUN --mount=(.*)from=...
依赖关系 (点线和空心菱形箭头)使用以下工具制作: patrickhoefler/dockerfilegraph
重新生成构建图的命令 (请确保从 vLLM 仓库的
root
目录运行,其中 dockerfile 存在)dockerfilegraph -o png --legend --dpi 200 --max-label-length 50 --filename docker/Dockerfile
或者,如果您想直接使用 docker 镜像运行
docker run \ --rm \ --user "$(id -u):$(id -g)" \ --workdir /workspace \ --volume "$(pwd)":/workspace \ ghcr.io/patrickhoefler/dockerfilegraph:alpine \ --output png \ --dpi 200 \ --max-label-length 50 \ --filename docker/Dockerfile \ --legend
(要为不同的文件运行它,您可以将不同的参数传递给标志
--filename
。)