Cloud ML Platform
クラウド ML プラットフォームを 10 セクション (Big 3 / Databricks / LLM 特化 / GPU / 訓練特化 / DAG / AutoML / FS+追跡 / ベクター+HW / 選定+落穴) で俯瞰、tech-71 マネージド層を整理。
article technology ja クラウド ML プラットフォームを 10 セクション (Big 3 / Databricks / LLM 特化 / GPU / 訓練特化 / DAG / AutoML / FS+追跡 / ベクター+HW / 選定+落穴) で俯瞰、tech-71 マネージド層を整理。Cloud ML Platform
クラウド ML プラットフォームは BUILD/TRAIN/FT/SERVE のマネージド表現層で、物理層 (tech-71) を SKU 化、フレームワーク (tech-73) をコンテナで包み、アプリ (tech-72) に Endpoint URL を返す。Big 3 (SM/Vertex/Azure ML)、Databricks、LLM 特化 (Bedrock/HF/Modal)、GPU レンタル (RunPod/Lambda/CoreWeave) の 4 層。価格・SKU・GA は訓練データ依存で要検証。
Big 3 マネージド E2E
AWS SageMaker (Studio 2019 GA / v2 統一 2023 未確認) は JupyterLab+Code Editor 統合 IDE、コンテナ訓練 Jobs (ml.p5.48xlarge H100、ml.trn1n Trainium)、HyperPod (2023 re:Invent GA 未確認) でノード障害自動復旧 IB クラスタ (EKS+Slurm 両対応)、Pipelines (2020 GA 未確認)、Endpoints 4 モード (real-time/serverless/async/batch)、JumpStart (FM マーケットプレイス)、Autopilot (タブラー AutoML)、Feature Store (online+S3 offline)、Savings Plans (未確認)。コンテナ契約 /opt/ml/+train で Vertex/Azure と非互換 (P5)。Bedrock=推論専用 API、JumpStart=VPC ホストデプロイで補完。
Google Vertex AI は Workbench (2021 GA 未確認) マネージド JupyterLab、Custom Training、Pipelines (KFP SDK v2 互換で Kubeflow 移植可)、Model Garden (2023 GA、Gemini+Llama 3+Mistral+OSS 数百)、Endpoints (Dedicated/Shared+canary)、Generative AI Studio、Feature Store (Bigtable+BigQuery、2024 再設計 未確認)、Vector Search (旧 Matching Engine 2023 改名)、AutoML、Capacity Reservations (TPU/GPU 事前確保)、Agent Builder (2024 GA 未確認、tech-72 連結)。コンテナ契約は AIP_* env (SM と非互換)。TPU v4/v5e/v5p は GCP 独占、PyTorch/JAX 両対応。
Azure ML / AI Foundry は Azure ML Studio (2018 v1 / 2021 v2 未確認)、Compute Clusters (Standard_ND96isr_H100_v5)、AutoML、Pipelines (SDK v2+CLI v2)、Online/Batch Endpoints、Prompt Flow (2023 GA 未確認、LangChain 風ビジュアル LLM ワークフロー)、Azure OpenAI Service (OpenAI を Azure VPC で提供、tech-72 連結)、Azure AI Foundry (2024、AI Studio 後継名 未確認、catalog+FT+eval 統合)、Feature Store (2022 Preview 未確認)。MI300X 業界初 (2024 Q1 未確認)、H100/H200 (時期未確認) 並走。
Databricks Mosaic AI
Delta Lake+Unity Catalog で ML を密結合させたマルチクラウド (AWS/Azure/GCP)。MLflow (hosted) は Databricks マネージド版で Unity Catalog 統合が最深。Feature Store (2021 GA 未確認、Delta+DynamoDB/CosmosDB)。Mosaic AI Model Serving (2023 Mosaic 買収後、vLLM ベース 未確認) は GPU エンドポイント。Mosaic AI Vector Search (2024 GA 未確認)。Databricks AutoML (2021 GA 未確認、PySpark+sklearn)、Genie (2024 GA 未確認、NL→SQL)、AI Functions (2024 未確認、SQL から ai_gen()/ai_classify())。差別化は Unity Catalog ガバナンスと Mosaic AI Training の LLM 事前訓練レシピ。
LLM 特化マネージド
HuggingFace: Inference Endpoints (HF モデル専有、時間課金 未確認)、Spaces (デモ 未確認)、AutoTrain (ノーコード FT 未確認)、Serverless API (共有 GPU 未確認)。AWS Bedrock は FM API でアンスロピック/Meta/Mistral/Titan 統一、Bedrock Agents、Knowledge Bases (OpenSearch Serverless RAG)、Bedrock FT (SM と役割分担 未確認)、Bedrock Private (PrivateLink)。Azure OpenAI は OpenAI モデルを Azure VPC で提供。Together AI (OSS LLM+FT、token 課金 未確認)、Anyscale (Ray 未確認)、Modal (サーバーレス GPU デコレータ、req+GPU 秒課金 未確認)、Replicate (Cog/Docker、秒課金 未確認)、Baseten (Triton/vLLM 未確認)、Fal.ai (画像/動画生成 未確認)、Lepton AI (LLM+GPU 未確認)。Banana は 2024 廃止 (未確認)。
GPU-as-a-Service
物理クラスタ管理と IB/RoCE は tech-71 所管、ここはアクセス経路。RunPod は Community/Secure Pods+Serverless 推論、H100/A100/RTX 4090 (未確認)、Spot あり。Vast.ai はオークション式マーケット (コンシューマ+DC 余剰)。Lambda Labs は GPU クラウド+オンプレ HW 販売、1-Click Clusters で H100 SXM5 IB クラスタ即時起動、約 $2.49/h (未確認)。CoreWeave は NVIDIA 認定 K8s ネイティブ HPC/AI、H100/A100/L40S (未確認)、長期契約。Crusoe はフレアガス ESG ニッチ (未確認)、Foundry 企業 GPU 調達 (未確認)、TensorDock 低価格 (未確認)。価格・在庫は変動が激しく公式確認必須。
特化型訓練プラットフォーム
LLM 事前訓練・大規模 FT のための H100 IB クラスタ調達経路。Databricks Mosaic AI Training は Composer+FSDP+DeepSpeed をマネージド。Anyscale (Ray Train) は Ray Train+Tune、HPO 内蔵。CoreWeave は NVIDIA スタック+K8s ネイティブで Slurm-on-K8s 構成可。Lambda 1-Click Clusters は H100 SXM5 IB クラスタ即時起動 (未確認)。Crusoe Clean Compute は ESG 傾斜 (未確認)。選定軸はクラスタ規模・IB トポロジ・Slurm/K8s 嗜好・スポット可用性・リードタイム (Big 3 H100 は地域逼迫常態、P2)。
ワークフローオーケストレーション
Vertex AI Pipelines は KFP SDK v2 で Kubeflow 移植可、SageMaker Pipelines AWS 専用、Azure ML Pipelines Azure 専用。マルチクラウド OSS は Kubeflow on EKS/GKE/AKS、Flyte (Lyft、型付き、Python+Java)、Metaflow (Netflix、DS フレンドリ、AWS 強 未確認)、Prefect Cloud、Dagster Cloud (asset 指向)。Airflow 派は Cloud Composer (GCP) と MWAA (AWS 未確認)。ML 固有 DAG と汎用 DAG は補完で両走させる組織も多い。コンテナ実体は tech-66。
AutoML / ローコード
SageMaker Autopilot はタブラー (XGBoost/Linear/DNN 自動選択)、Vertex AutoML は Tables/Vision/NLP/Video、Azure AutoML は分類/回帰/NLP/CV/時系列 v2 SDK。OSS+SaaS は H2O.ai AutoML (OSS+SaaS+LLM Studio 未確認)、DataRobot (MLOps+説明可能性)、Dataiku (協働 DS)、Domino (環境管理+再現性)。タブラーは依然 AutoML 主戦場 (tech-73 古典 ML)、LLM 時代でも RAG 前段の構造化予測で需要が残る。
特徴量ストア & 実験追跡 SaaS
Feast OSS (Redis/DynamoDB/BigQuery)、Tecton は Feast 創業者のエンタープライズ SaaS (未確認)。クラウドネイティブは Databricks FS (Delta+DynamoDB 未確認)、Vertex FS、SM FS、Azure ML FS (ADLS+Redis 長期プレビュー 未確認)。P3 ロックイン: クラウド純正 FS は API 独自で移植不可、Feast は OSS で可搬。実験追跡: W&B Cloud (SaaS+セルフ、runs/artifacts/sweeps/Weave 未確認) 最広範採用、MLflow on Databricks/Azure ML、Comet Cloud (画像/音声 未確認)、Neptune.ai。フレームワーク側は tech-73 §MLOps。
ベクター DB・ハードウェア・価格
Vector DB: AWS OpenSearch Serverless (Bedrock KB バックエンド)、Azure AI Search (ベクター+ハイブリッド)、Vertex Vector Search (ANN)。独立 SaaS は Pinecone / Weaviate / Qdrant Cloud。アプリ層 RAG は tech-72 §RAG。HW × クラウド (SKU・時期未確認): H100 SXM5 は AWS p5.48xlarge / GCP a3-highgpu-8g / Azure ND96isr_H100_v5、A100 は AWS p4d/p4de / GCP a2-highgpu / Azure ND96asr_v4、H200・B100/B200 (2025+) 未確認。TPU v5p は GCP 独占、Trainium2/Inferentia2 は AWS 独占、MI300X は Azure 2024 Q1 業界初 (未確認)。価格: AWS Spot Training 最大 90% 割引+checkpoint 必須、GCP Spot/Preemptible、Azure Spot/low-priority (いずれも未確認)。リザーブは Savings Plans / Committed Use / Reserved Instances。3rd party は Lambda H100 約 4/h+Spot 約 60% off、CoreWeave 長期割引 (未確認)。
2026 フロンティアと選定
Agentic: SM AI Agents / Vertex Agent Builder / Azure AI Agent Service / Bedrock Agents (各 GA 未確認)、tech-72 と境界曖昧化。マルチクラウド抽象: SkyPilot (OSS、AWS/GCP/Azure/Lambda/RunPod で最安スポット自動選択 未確認)、dstack (OSS、K8s 抽象 未確認)。プライベート VPC LLM: Bedrock Private、Vertex Private Endpoints (未確認)。データ主権: EU/日本/中東 (各未確認)。FM マーケットプレイス: JumpStart vs Model Garden vs Azure AI Model Catalog vs Bedrock Model Hub (未確認)。選定: 事前訓練 (10B+) → SM HyperPod / CoreWeave / Lambda 1-Click + tech-71。FT → Bedrock / Vertex / Azure ML SDK + tech-72。サーバーレス推論 → Modal / Replicate / Fal / HF Endpoints。タブラー → SM Autopilot / Vertex AutoML / Azure AutoML。マルチクラウド → SkyPilot。データ密結合 → Databricks。低コスト訓練 → RunPod / Lambda / Vast.ai。
ピットフォール
- P1 アイドルエンドポイント費用暴走: SM/Vertex real-time は起動中ずっと課金。serverless 採用か
MinInstances=0自動 0 スケール、Idle 監視。 - P2 新世代アクセラレータの地域逼迫: H100/B100 は地域限定+申請ゲート (未確認) で「東京 H100 が空かない」が常態。Capacity Reservation 平時予約+マルチリージョン+3rd party フォールバック。
- P3 独自 FS/Registry ロックイン: SM FS / Model Registry は AWS 専用で移植不可。Feast (OSS) 採用、Registry は MLflow で抽象化。
- P4 IAM クロスアカウント複雑化: マルチアカウント AWS で SM ロール構成が地獄化。Organizations+SCP で標準ロール強制、執行/データ IAM 分離。
- P5 コンテナ契約の非互換: SM BYOC
/opt/ml/、VertexAIP_*、Azure ML Environment YAML と異なる。共通化は BYOC 抽象を厚めに、各 doc を必読。 - P6 訓練ジョブのタイムアウト上限: SM 最大 5 日 / Vertex 最大 7 日 (いずれも未確認)。Resume 設計なしで長時間ジョブは再ゼロ復帰リスク。
- P7 サーバーレス推論コールドスタート: SM Serverless / Modal は秒〜数十秒 (未確認)。SLO 用途は warm-up か
min_replicas>=1強制。 - P8 クロスリージョン転送費: データ↔コンピュート分離は egress 課金。同一リージョン配置を IaC で強制。
スコープは BUILD/TRAIN/FT/SERVE マネージド層に限定。分散アルゴリズム (tech-48)、コンテナ (tech-66)、推論 (tech-69)、GPU API (tech-70)、物理基盤 (tech-71)、アプリ (tech-72)、フレームワーク (tech-73) と分離。価格・SKU・GA 日付は訓練データ依存 (cutoff 2025-08) で confidence: medium 固定、(未確認) を明示分離。
Backlinks
- related ML Storage Infrastructure
- related ML Cluster Orchestration(ML クラスタオーケストレーション)
- related ML Model Deployment
- related MLOps Lifecycle(機械学習ライフサイクル運用)
- related Datacenter Physical Infrastructure