目錄

構建docker容器

使用 Dockerfile 構建自定義鏡像

---

構建docker容器

docker images
docker pull pytorch/torchserve:latest-gpu
docker imagesdocker run -d --rm --gpus all --name torchserve-dev-bg -u $(id -u):$(id -g) -v /nas:/nas pytorch/torchserve:latest /bin/bash
映射了端口沒測：
docker run -d --rm --gpus all -p 8080:8080 -p 8081:8081 --name torchserve-music -u $(id -u):$(id -g) -v /nas:/nas pytorch/torchserve:latest-gpu /bin/bash將-it（交互式前臺運行）改為-d（后臺運行）
docker exec -it torchserve-dev-bg /bin/bash
docker stop torchserve-music  # 停止容器
docker rm torchserve-music    # 刪除容器

如果容器啟動后立即退出，可以嘗試不帶 -d 參數運行，以便查看錯誤信息：

docker run --rm --gpus all \-p 8080:8080 -p 8081:8081 \--name torchserve-music \-v /nas/lbg/project/tool_pack/model_store:/model-store \pytorch/torchserve:latest-gpu \torchserve --start --model-store /model-store --models ast-audio-classifier.mar

使用 Dockerfile 構建自定義鏡像

1. 創建 Dockerfile：

cat > Dockerfile << 'EOF'
FROM pytorch/torchserve:latest-gpu
RUN pip install transformers torchaudio soundfile nvgpu
EOF

1. 構建自定義鏡像：

docker build -t torchserve-gpu-bg:latest .

1. 使用自定義鏡像啟動服務：

docker run --rm --gpus all \-p 8080:8080 -p 8081:8081 \--name torchserve-music \-v /nas/lbg/project/tool_pack/musicdetectmodelservice/model_store:/model-store \torchserve-gpu-bg:latest \torchserve --foreground --model-store /model-store --models ast=ast-audio-classifier.mar