ML Model Deployment（機械学習モデルのデプロイメント）

ML モデルデプロイメントは訓練済みアーティファクトを本番に到達・健全稼働させ必要時に安全ロールバックするライフサイクルで、推論サービング (tech-69) の上位プロセス層に位置する。本稿は 7 フェーズ・6 パターン・5 リリース戦略・5 環境・CT/CD・3 層ロールバック・12 AP・2026 フロンティアで俯瞰する。情報カットオフ ~2025-08 固定、バージョン・GA 日程は [VERIFY] 明示。

ライフサイクル全体像

7 フェーズで整理する。モデルレジストリが全フェーズ縦断の唯一 SoT として機能する。

通常 CI/CD と異なるのはフェーズ 6 のドリフト検出が自動でフェーズ 1 の再訓練を駆動し Continuous Training (CT) ループを形成する点。

パッケージング

デプロイ可能単位はモデル重み単体ではなくバンドル：model/ (weights + config + tokenizer)、preprocessing/、postprocessing/、runtime/ (Dockerfile + requirements lock)、manifest/ (MLmodel / ServiceSpec)。形式詳細は tech-77 / tech-78 委譲。

再現性は 3 セット：(1) weights hash SHA-256 を manifest 記録 + SafeTensors ヘッダ検証で RCE 回避、(2) base image digest を FROM ...@sha256:<digest> 固定 [VERIFY]、(3) requirements lock を uv pip compile / pip-compile --generate-hashes で全推移依存ハッシュ含めロック。MLflow は pyfunc flavor、BentoML は bentofile.yaml 宣言記述 [VERIFY]。

モデルレジストリ & バージョニング

リネージメタデータ必須 6 項目：training_dataset_hash / parent_model_version / evaluation_report_uri / bias_check_report_uri / training_pipeline_run_id / approved_by。揃わない登録は promotion 拒否の CI ゲートを置く。

デプロイメントパターン

Modal と Replicate (Cog/Docker) は LLM・画像生成系の迅速デプロイに適する [VERIFY]。エンジン比較は tech-69 委譲。

リリース戦略

Argo Rollouts は AnalysisTemplate で successCondition: result >= 0.95 自動評価 [VERIFY]、Flagger は Istio メトリクスを Prometheus で判定 [VERIFY]。SLO ゲート例: p95 latency < 200ms (baseline +20% 以内)、error_rate < 0.5%、accuracy_delta > -2%、output_drift_score < threshold。SageMaker auto-rollback は CloudWatch アラーム発火で旧版へ自動復帰 [VERIFY]。

環境マトリクス

選定軸 4 つ：(1) 制御 vs ロックイン、(2) scale-to-zero vs スループット (Serverless は cold start が p99 汚染)、(3) 規制 (医療・金融は VPC 内、air-gap は on-prem Triton 一択)、(4) コスト (GPU 専有/MME/serverless 使い分け)。K8s 基礎は tech-66、クラウド比較は tech-74。

CI/CD/CT パイプライン

ML CI/CD は通常 CI/CD に Continuous Training (CT) が加わる。データ検証→訓練→モデル評価→レジストリ登録→カナリア→progressive rollout の流れ。

CI テスト 5 種：データ検証 (Great Expectations/Pandera) [VERIFY]、モデル検証 (accuracy/latency 閾値回帰)、偏り検査 (Fairlearn/Aequitas) [VERIFY]、セキュリティ (Trivy + SLSA、tech-66)、スモーク (ステージング疎通)。CT トリガー 4 種：ドリフトアラート (PSI > 0.2 / KS p < 0.05、Evidently/Arize Webhook)、スケジュール、データ閾値、ビジネスイベント。CT は tech-83 と密結合しフィードバックループを閉じる。

ロールバック & インシデント対応

自動条件: SLO 違反 5 分継続、error_rate > baseline + 2σ、出力分布 KL divergence 超過。手動手順: PagerDuty → kubectl argo rollouts abort → SageMaker は update_endpoint() で旧 EndpointConfigArn → Grafana 回復確認。ブラスト半径最小化: per-tenant routing (LiteLLM/Envoy)、Feature Flag、Namespace per tier。

アンチパターン

2026 フロンティア

LLM 特有: vLLM V1 の Disaggregated PD で prefill/decode 分離 + KVCache 転送が実験的、KServe v0.13+ との production 展開が 2025 後半から [VERIFY]（tech-69/tech-46/tech-79）。Multi-LoRA hot-swap はテナント別 FT を 1 GPU 多重化、デプロイ層は アダプタレジストリ と バージョニング が課題。Prefix-cache-aware routing はゲートウェイがプレフィックスハッシュで同一キャッシュ保持ワーカーへ優先ルーティング [VERIFY]。

エージェントデプロイ: 数分〜数時間セッション維持で Pod lifecycle と整合せず StatefulSet + PVC または外部セッションストア (Redis) が必要 [VERIFY]。ツールレジストリ がモデルレジストリとは別レイヤとして登場 [VERIFY]。ループ高額請求は per-session token budget + hard cutoff (LiteLLM Budget Manager 等 [VERIFY]) で抑制。

Confidential Inference: AWS Nitro Enclaves 隔離、AMD SEV-SNP Confidential VM (Azure + AMD EPYC)、NVIDIA H100 Confidential Computing ハードウェア TEE で重み隔離 + 証明書発行 [VERIFY]。

Green Deployment: Carbon-aware scheduling で再エネ発電が多い地域・時間帯に batch をシフト、WattTime / Electricity Maps API + Kubeflow scheduler 統合の実験的実装 [VERIFY]。