Dockerfile
请参阅此处了解主要的 Dockerfile,构建用于使用 vLLM 运行 OpenAI 兼容服务器的镜像。有关使用 Docker 进行部署的更多信息可以在此处找到。
下面是多阶段 Dockerfile 的可视化表示。构建图包含以下节点:
-
所有构建阶段
-
默认构建目标(以灰色突出显示)
-
外部图像(带有虚线边框)
构建图中的各个边的表示为:
-
FROM ... dependencies(带有实线和完整箭头)
-
COPY --from=... dependencies(带有虚线和空箭头)
-
RUN --mount=(.*)from=... dependencies(带有虚线和空菱形箭头)
使用:https://github.com/patrickhoefler/dockerfilegraph 制作
重新生成构建图的命令(确保在包含 dockerfile 的 vLLM 存储库的 root 目录下运行它):
dockerfilegraph -o png --legend --dpi 200 --max-label-length 50 --filename Dockerfile
或者如果您想直接使用 docker 镜像运行它:
docker run \
--rm \
--user "$(id -u):$(id -g)" \
--workdir /workspace \
--volume "$(pwd)":/workspace \
ghcr.io/patrickhoefler/dockerfilegraph:alpine \
--output png \
--dpi 200 \
--max-label-length 50 \
--filename Dockerfile \
--legend
(要使用不同的文件运行,您可以将不同的参数传递给标志 --filename。)