在生產環境中，數據模型的部署面臨雙重挑戰：一方面要應對流量波動（如電商大促期間預測接口調用量激增 10 倍），另一方面需保證服務零中斷（金融風控模型 downtime 每增加 1 分鐘可能導致數十萬元損失）。

本文基于實際項目經驗，詳細講解如何通過 Docker 容器化與 Kubernetes 編排，構建支持彈性伸縮、故障自愈的模型服務架構。文中包含完整的 Dockerfile 編寫、K8s 配置清單及自動擴縮容策略，所有代碼均可直接用于生產環境。

一、模型容器化：從 Python 腳本到 Docker 鏡像

容器化是實現彈性部署的基礎。直接在服務器上部署模型的傳統方式，會因依賴沖突、環境差異導致 "開發環境能跑，生產環境崩潰" 的問題。Docker 通過鏡像封裝解決了這一痛點。

1.1 模型服務封裝（Flask 示例）

首先需將模型包裝為 HTTP 服務。以 Scikit-learn 訓練的分類模型為例，用 Flask 構建 API 接口：

# model_service.py

import joblib

import numpy as np

from flask import Flask, request, jsonify

# 加載模型（生產環境建議用懶加載）

model = joblib.load('classification_model.pkl')

# 特征列名（與訓練時保持一致）

feature_cols = ['f1', 'f2', 'f3', 'f4']

app = Flask(__name__)

@app.route('/predict', methods=['POST'])

def predict():

try:

# 獲取請求數據

data = request.json

# 數據校驗

if not all(col in data for col in feature_cols):

return jsonify({'error': '缺少特征字段'}), 400

# 構造特征數組

features = np.array([[data[col] for col in feature_cols]])

# 模型預測

pred_proba = model.predict_proba(features)[0][1]

pred_label = int(pred_proba > 0.5) # 決策閾值

return jsonify({

'pred_label': pred_label,

'pred_proba': float(pred_proba),

'request_id': data.get('request_id', '')

})

except Exception as e:

return jsonify({'error': str(e)}), 500

@app.route('/health', methods=['GET'])

def health_check():

# 健康檢查接口（K8s用于存活探測）

return jsonify({'status': 'healthy', 'model_version': 'v1.2.0'}), 200

if __name__ == '__main__':

# 生產環境用Gunicorn，此處簡化為Flask原生服務器

app.run(host='0.0.0.0', port=5000, debug=False)

1.2 編寫多階段 Dockerfile

為避免鏡像臃腫（基礎 Python 鏡像 + 模型依賴可能超過 2GB），采用多階段構建策略，最終鏡像體積可壓縮至 300MB 以內：

# 第一階段：構建環境

FROM python:3.9-slim as builder

# 設置工作目錄

WORKDIR /app

# 安裝構建依賴

RUN pip install --no-cache-dir pipenv

# 復制依賴文件

COPY Pipfile Pipfile.lock ./

# 安裝依賴（僅保留生產環境包）

RUN pipenv install --deploy --system