Azure Maia 200 AIアクセラレーションの設定と活用ガイド

Contents

1 1. Azure AI 加速器（ND96asr_v4）概要と主なスペック
2 2. 前提条件と環境設定
3 3. ND96asr_v4 VM の作成手順
- 3.1 3.1 ポータルでの作成フロー（概要）
- 3.2 3.2 Azure CLI 完全スクリプト
4 4. ドライバー・ランタイムインストールとモデルデプロイ
5 5. パフォーマンス測定・チューニング
- 5.1 5.1 Azure Machine Learning Benchmark ツールの実行例
- 5.2 5.2 一般的なエラーと対処フロー
6 6. セキュリティ・コンプライアンスのベストプラクティス（Azure 固有）
7 7. まとめ
- 7.1 参考情報

スポンサードリンク

1. Azure AI 加速器（ND96asr_v4）概要と主なスペック

項目	内容
SKU 名	`Standard_ND96asr_v4`
ハードウェア構成	8 × NVIDIA H100 (80 GB) GPU、96 vCPU、1.9 TB RAM
GPU メモリ総量	640 GB（8 × 80 GB）
インターコネクト	NVLink による GPU‑GPU 高帯域リンク、PCIe 4.0 x16
対応フレームワーク	TensorFlow 2.x、PyTorch 2.x、ONNX Runtime 1.14+（CUDA 12）
推奨 OS	Ubuntu 20.04 LTS、Ubuntu 22.04 LTS、RHEL 8/9
利用可能リージョン (2026‑03)	East US, West Europe, Southeast Asia, Japan East など【3†Azure Region Availability】

ポイント – ND96asr_v4 は「Inference Optimized」SKU として設計され、GPU の電力管理や NVLink 経由の高速データ転送が標準で有効化されています。

2. 前提条件と環境設定

2.1 必要な Azure アカウント権限

権限	説明
Microsoft.Compute/virtualMachines/write	VM の作成・更新
Microsoft.Network/virtualNetworks/subnets/write	VNet／サブネットの設定
Microsoft.MachineLearningServices/workspaces/*	Azure Machine Learning ワークスペース操作（デプロイに必須）
Reader + Contributor (最低)	参考: https://learn.microsoft.com/azure/role-based-access-control/built-in-roles

Tip – 最小権限で運用したい場合は、カスタムロールを作成し Microsoft.MachineLearningServices/* を限定的に付与します。

2.2 対応リージョンと SKU の確認方法

# Azure CLI にログイン（初回だけ）
az login

# 対象リージョンで利用可能な ND 系列を一覧表示
az vm list-skus \
  --location eastus \
  --size Standard_ND96asr_v4 \
  --all \
  --output table

# Azure CLI にログイン（初回だけ）

az login

# 対象リージョンで利用可能な ND 系列を一覧表示

az vm list-skus \

--location eastus \

--size Standard_ND96asr_v4 \

--all \

--output table

2.3 推奨 OS とパッケージリポジトリの準備

OS	パッケージリポジトリ URL
Ubuntu 20.04 LTS	`https://packages.microsoft.com/ubuntu/20.04/prod`
Ubuntu 22.04 LTS	`https://packages.microsoft.com/ubuntu/22.04/prod`

チェックリスト（実行前に必ず確認）

[ ] Azure サブスクリプションが有効か
[ ] 対象リージョンで ND96asr_v4 が在庫ありか (az vm list-skus)
[ ] OS イメージが Microsoft のリポジトリから取得できるか
[ ] Azure CLI 2.53+ と ML extension (`az extension add -n ml`) がインストール済みか

[ ] Azure サブスクリプションが有効か

[ ] 対象リージョンで ND96asr_v4 が在庫ありか (az vm list-skus)

[ ] OS イメージが Microsoft のリポジトリから取得できるか

[ ] Azure CLI 2.53+ と ML extension (`az extension add -n ml`) がインストール済みか

3. ND96asr_v4 VM の作成手順

3.1 ポータルでの作成フロー（概要）

手順	操作内容
1	Azure Portal にサインイン → 「仮想マシン」 > 「+ 作成」
2	基本情報: リソースグループ `ml-rg`、VM 名 `nd96asr-vm`、リージョン `East US`
3	イメージ: Ubuntu 20.04 LTS（Canonical）
4	サイズ検索欄で `Standard_ND96asr_v4` を選択
5	管理タブ → 「拡張機能」 > 「Azure Machine Learning Compute」有効化
6	ネットワーク: 新規 VNet (`ml-vnet`)、サブネット (`ml-subnet`)、パブリック IP はなし（プライベートエンドポイント利用）
7	確認画面で「作成」

UI からは「Accelerated networking」は自動で有効になるため、個別チェックは不要です。

3.2 Azure CLI 完全スクリプト

# -------------------------------------------------
# 1&#xfe0f;&#x20e3; 変数定義（環境に合わせて変更してください）
# -------------------------------------------------
RG=ml-rg
VM_NAME=nd96asr-vm
LOCATION=eastus
IMAGE=Canonical:UbuntuServer:20_04-lts-gen2:latest
SIZE=Standard_ND96asr_v4
VNET=ml-vnet
SUBNET=ml-subnet

# -------------------------------------------------
# 2&#xfe0f;&#x20e3; リソースグループ作成（既存ならスキップ）
# -------------------------------------------------
az group create --name $RG --location $LOCATION

# -------------------------------------------------
# 3&#xfe0f;&#x20e3; VNet／サブネット作成（プライベートエンドポイント用）
# -------------------------------------------------
az network vnet create \
  --resource-group $RG \
  --name $VNET \
  --address-prefix 10.0.0.0/16 \
  --subnet-name $SUBNET \
  --subnet-prefix 10.0.1.0/24

# -------------------------------------------------
# 4&#xfe0f;&#x20e3; VM 作成（プライベート IP のみ）
# -------------------------------------------------
az vm create \
  --resource-group $RG \
  --name $VM_NAME \
  --image $IMAGE \
  --size $SIZE \
  --vnet-name $VNET \
  --subnet $SUBNET \
  --admin-username azureuser \
  --generate-ssh-keys \
  --accelerated-networking true \
  --nsg ""          # デフォルト NSG は削除し、後でカスタム設定

# -------------------------------------------------
# 5&#xfe0f;&#x20e3; Azure Machine Learning 拡張機能を有効化
# -------------------------------------------------
az extension add -n ml   # 初回のみ

# （オプション）ML ワークスペース作成例
az ml workspace create \
  --resource-group $RG \
  --workspace-name ml-ws \
  --location $LOCATION

# -------------------------------------------------

# 1️⃣ 変数定義（環境に合わせて変更してください）

# -------------------------------------------------

RG=ml-rg

VM_NAME=nd96asr-vm

LOCATION=eastus

IMAGE=Canonical:UbuntuServer:20_04-lts-gen2:latest

SIZE=Standard_ND96asr_v4

VNET=ml-vnet

SUBNET=ml-subnet

# -------------------------------------------------

# 2️⃣ リソースグループ作成（既存ならスキップ）

# -------------------------------------------------

az group create --name $RG --location $LOCATION

# -------------------------------------------------

# 3️⃣ VNet／サブネット作成（プライベートエンドポイント用）

# -------------------------------------------------

az network vnet create \

--resource-group $RG \

--name $VNET \

--address-prefix 10.0.0.0/16 \

--subnet-name $SUBNET \

--subnet-prefix 10.0.1.0/24

# -------------------------------------------------

# 4️⃣ VM 作成（プライベート IP のみ）

# -------------------------------------------------

az vm create \

--resource-group $RG \

--name $VM_NAME \

--image $IMAGE \

--size $SIZE \

--vnet-name $VNET \

--subnet $SUBNET \

--admin-username azureuser \

--generate-ssh-keys \

--accelerated-networking true \

--nsg "" # デフォルト NSG は削除し、後でカスタム設定

# -------------------------------------------------

# 5️⃣ Azure Machine Learning 拡張機能を有効化

# -------------------------------------------------

az extension add -n ml # 初回のみ

# （オプション）ML ワークスペース作成例

az ml workspace create \

--resource-group $RG \

--workspace-name ml-ws \

--location $LOCATION

ポイント

--accelerated-networking true が正式フラグです（旧 true のみで OK）。
プライベート IP のみで構築することで、外部からの直接アクセスを防げます。
NSG は後述の「セキュリティ」項目で最小権限にチューニングします。

4. ドライバー・ランタイムインストールとモデルデプロイ

4.1 NVIDIA ドライバ & CUDA のセットアップ（Ubuntu）

# Microsoft パッケージリポジトリを追加
curl -sL https://packages.microsoft.com/keys/microsoft.asc | sudo apt-key add -
sudo bash -c 'cat &lt;&lt;EOF &gt; /etc/apt/sources.list.d/microsoft-prod.list
deb [arch=amd64] https://packages.microsoft.com/ubuntu/20.04/prod focal main
EOF'

# パッケージ更新 &amp; NVIDIA ドライバ (530 系) と CUDA 12 のインストール
sudo apt-get update
sudo apt-get install -y nvidia-driver-530 cuda-toolkit-12-0

# インストール確認
nvidia-smi   # GPU とドライババージョンが表示されれば成功

# Microsoft パッケージリポジトリを追加

curl -sL https://packages.microsoft.com/keys/microsoft.asc | sudo apt-key add -

sudo bash -c 'cat <<EOF > /etc/apt/sources.list.d/microsoft-prod.list

deb [arch=amd64] https://packages.microsoft.com/ubuntu/20.04/prod focal main

EOF'

# パッケージ更新 & NVIDIA ドライバ (530 系) と CUDA 12 のインストール

sudo apt-get update

sudo apt-get install -y nvidia-driver-530 cuda-toolkit-12-0

# インストール確認

nvidia-smi # GPU とドライババージョンが表示されれば成功

公式情報: https://learn.microsoft.com/azure/virtual-machines/linux/n-series-driver-install

4.2 Azure Machine Learning (v2) SDK と Runtime のインストール

# Python 仮想環境作成（推奨）
python3 -m venv .venv &amp;&amp; source .venv/bin/activate

# Azure ML SDK(v2) + 推論ランタイム
pip install "azure-ai-ml[notebooks,extras]" "torch==2.1.*" "tensorflow==2.15.*"

# Azure CLI の ml extension が必要な場合は再度有効化
az extension add -n ml

# Python 仮想環境作成（推奨）

python3 -m venv .venv && source .venv/bin/activate

# Azure ML SDK(v2) + 推論ランタイム

pip install "azure-ai-ml[notebooks,extras]" "torch==2.1.*" "tensorflow==2.15.*"

# Azure CLI の ml extension が必要な場合は再度有効化

az extension add -n ml

4.3 Python SDK を使ったモデル登録・デプロイ例

from azure.ai.ml import MLClient
from azure.ai.ml.entities import (
    ManagedOnlineEndpoint,
    ManagedOnlineDeployment,
    Model,
)
from azure.identity import DefaultAzureCredential

# 1&#xfe0f;&#x20e3; クライアント作成（環境変数でサブスクリプション ID 等を設定）
ml_client = MLClient(
    credential=DefaultAzureCredential(),
    subscription_id="YOUR_SUBSCRIPTION_ID",
    resource_group_name="ml-rg",
    workspace_name="ml-ws"
)

# 2&#xfe0f;&#x20e3; モデル登録（例: ResNet‑50 の PyTorch .pt ファイル）
model = Model(
    name="resnet50-pt",
    path="./models/resnet50.pt",
    description="ResNet‑50 (PyTorch) trained on ImageNet"
)
ml_client.models.create_or_update(model)

# 3&#xfe0f;&#x20e3; エンドポイント作成
endpoint = ManagedOnlineEndpoint(name="nd96asr-endpoint", auth_mode="key")
ml_client.begin_create_or_update(endpoint).result()

# 4&#xfe0f;&#x20e3; デプロイメント設定（GPU インスタンスタイプ指定）
deployment = ManagedOnlineDeployment(
    name="default",
    endpoint_name=endpoint.name,
    model=model.id,
    compute="Standard_ND96asr_v4",   # GPU を使用することを明示
    instance_type="Standard_ND96asr_v4",
    environment="AzureML-PyTorch-2.1-ubuntu20.04:5"  # Azure が提供するベースイメージ
)
ml_client.begin_create_or_update(deployment).result()

print("エンドポイント URL:", endpoint.scoring_uri)

from azure.ai.ml import MLClient

from azure.ai.ml.entities import (

ManagedOnlineEndpoint,

ManagedOnlineDeployment,

Model,

)

from azure.identity import DefaultAzureCredential

# 1️⃣ クライアント作成（環境変数でサブスクリプション ID 等を設定）

ml_client = MLClient(

credential=DefaultAzureCredential(),

subscription_id="YOUR_SUBSCRIPTION_ID",

resource_group_name="ml-rg",

workspace_name="ml-ws"

)

# 2️⃣ モデル登録（例: ResNet‑50 の PyTorch .pt ファイル）

model = Model(

name="resnet50-pt",

path="./models/resnet50.pt",

description="ResNet‑50 (PyTorch) trained on ImageNet"

)

ml_client.models.create_or_update(model)

# 3️⃣ エンドポイント作成

endpoint = ManagedOnlineEndpoint(name="nd96asr-endpoint", auth_mode="key")

ml_client.begin_create_or_update(endpoint).result()

# 4️⃣ デプロイメント設定（GPU インスタンスタイプ指定）

deployment = ManagedOnlineDeployment(

name="default",

endpoint_name=endpoint.name,

model=model.id,

compute="Standard_ND96asr_v4", # GPU を使用することを明示

instance_type="Standard_ND96asr_v4",

environment="AzureML-PyTorch-2.1-ubuntu20.04:5" # Azure が提供するベースイメージ

)

ml_client.begin_create_or_update(deployment).result()

print("エンドポイント URL:", endpoint.scoring_uri)

ベストプラクティス – ManagedOnlineEndpoint は自動でスケーリングとロギングを行います。GPU を使用した推論は instance_type に ND 系列 SKU を指定するだけで、内部的に CUDA が有効化されます【4†Azure ML Runtime】。

4.4 Docker コンテナでのカスタムランタイム（オプション）

FROM mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu20.04:latest

# NVIDIA ドライバと CUDA はホストに依存するので runtime only
RUN apt-get update &amp;&amp; \
    apt-get install -y python3-pip curl &amp;&amp; \
    pip install torch==2.1.* torchvision==0.16.*

COPY inference.py /app/inference.py
WORKDIR /app

CMD ["python3", "inference.py"]

FROM mcr.microsoft.com/azureml/openmpi3.1.2-ubuntu20.04:latest

# NVIDIA ドライバと CUDA はホストに依存するので runtime only

RUN apt-get update && \

apt-get install -y python3-pip curl && \

pip install torch==2.1.* torchvision==0.16.*

COPY inference.py /app/inference.py

WORKDIR /app

CMD ["python3", "inference.py"]

# ビルド &amp; 実行（GPU アクセラレータ利用）
docker build -t nd96asr-infer .
docker run --gpus all -p 8080:80 nd96asr-infer

# ビルド & 実行（GPU アクセラレータ利用）

docker build -t nd96asr-infer .

docker run --gpus all -p 8080:80 nd96asr-infer

5. パフォーマンス測定・チューニング

5.1 Azure Machine Learning Benchmark ツールの実行例

pip install azureml-benchmark   # v2 のベンチマークパッケージ

az ml benchmark run \
  --model ./models/resnet50.pt \
  --framework pytorch \
  --batch-sizes 1 8 32 64 \
  --target-device nd96asr_v4 \
  --output-dir ./benchmark_results

pip install azureml-benchmark # v2 のベンチマークパッケージ

az ml benchmark run \

--model ./models/resnet50.pt \

--framework pytorch \

--batch-sizes 1 8 32 64 \

--target-device nd96asr_v4 \

--output-dir ./benchmark_results

サンプル結果（ResNet‑50）

バッチサイズ	推論レイテンシ (ms)	スループット (画像/秒)
1	2.1	476
8	4.3	1 860
32	9.0	3 556
64	14.7	4 352

最適化ヒント
バッチサイズ 32‑64 が GPU のパイプライン深度とメモリ余裕のトレードオフで最高スループット。
データ転送 は同一 VNet 内に配置した Azure Blob Storage の Private Endpoint を使用し、az storage blob upload-batch で事前にキャッシュすると I/O ボトルネックが大幅緩和されます。
CPU ピン留め*（taskset -c 0-15）や numactl --cpunodebind=0 による NUMA 最適化は、推論ワークロードのジッタ削減に有効です。

5.2 一般的なエラーと対処フロー

エラーコード	主因	推奨アクション
`CUDA_ERROR_NOT_INITIALIZED`	ドライバ/ランタイムの不整合	`nvidia-smi` でドライババージョン確認 → 必要なら `sudo apt-get upgrade nvidia-driver-530`
`MAIA_DRIVER_MISMATCH`（実際は `ML_RUNTIME_INCOMPATIBLE`）	SDK と Runtime のバージョン差異	`pip list \| grep azure-ai-ml` と `maia-runtime --version` を揃える
`RBAC_FORBIDDEN`	Azure RBAC が不足	IAM → 「Contributor」以上、またはカスタムロールで `Microsoft.MachineLearningServices/*` 権限付与
`NETWORK_ISOLATION_ERROR`	VNet/NSG のアウトバウンドが遮断	NSG で `Allow outbound to AzureBlob (port 443)` を追加し、Private Endpoint が正しく設定されているか確認

ログ取得例

# GPU ドライバと CUDA ログ
sudo dmesg | grep -i nvidia &gt; gpu.log

# Azure ML ランタイム診断（Log Analytics に送信済みの場合）
az monitor log-analytics query \
  --workspace myLogAnalyticsWorkspace \
  --query "AzureDiagnostics | where Category == 'Inference'" \
  --output table

# GPU ドライバと CUDA ログ

sudo dmesg | grep -i nvidia > gpu.log

# Azure ML ランタイム診断（Log Analytics に送信済みの場合）

az monitor log-analytics query \

--workspace myLogAnalyticsWorkspace \

--query "AzureDiagnostics | where Category == 'Inference'" \

--output table

6. セキュリティ・コンプライアンスのベストプラクティス（Azure 固有）

項目	推奨設定
ネットワーク分離	VNet 内に専用サブネット `ml-subnet` を作成し、VM にパブリック IP を付与しない。Blob/ADLS は Private Endpoint 経由で接続。
アイデンティティ管理	VM に System‑Assigned Managed Identity を有効化し、Key Vault からシークレット（例: ストレージキー）を取得する構成にする。
ディスク暗号化	Azure Disk Encryption (ADE) と OS ディスクの Encryption at‑Rest（SSE‑Azure）を有効化。
アクセス制御	最小権限 RBAC：`AzureML Data Scientist` ロールで AML ワークスペース操作、`Reader` でリソース閲覧のみ。
監査ログ	Azure Monitor → Log Analytics にすべての `Microsoft.MachineLearningServices` と `Microsoft.Compute` のアクティビティを送信し、定期的に Azure Policy でコンプライアンスレポートを生成。
脆弱性スキャン	Microsoft Defender for Cloud の VM runtime protection を有効化し、CIS ベンチマークに沿った設定違反を検出。

実装例（CLI）

# Managed Identity 有効化
az vm identity assign --resource-group $RG --name $VM_NAME

# Key Vault からシークレット取得用ポリシー付与
az keyvault set-policy \
  --name myKeyVault \
  --object-id $(az vm show -g $RG -n $VM_NAME --query "identity.principalId" -o tsv) \
  --secret-permissions get

# Private Endpoint 作成例（Blob Storage）
STORAGE_ACCOUNT=mystorage
az network private-endpoint create \
  --resource-group $RG \
  --name blob-pe \
  --vnet-name $VNET \
  --subnet $SUBNET \
  --private-connection-resource-id $(az storage account show -n $STORAGE_ACCOUNT -g $RG --query "id" -o tsv) \
  --group-id blob

# Managed Identity 有効化

az vm identity assign --resource-group $RG --name $VM_NAME

# Key Vault からシークレット取得用ポリシー付与

az keyvault set-policy \

--name myKeyVault \

--object-id $(az vm show -g $RG -n $VM_NAME --query "identity.principalId" -o tsv) \

--secret-permissions get

# Private Endpoint 作成例（Blob Storage）

STORAGE_ACCOUNT=mystorage

az network private-endpoint create \

--resource-group $RG \

--name blob-pe \

--vnet-name $VNET \

--subnet $SUBNET \

--private-connection-resource-id $(az storage account show -n $STORAGE_ACCOUNT -g $RG --query "id" -o tsv) \

--group-id blob

7. まとめ

実在する製品は Standard_ND96asr_v4（NVIDIA H100）で、公式スペックとリージョン情報を必ず確認してください。
前提条件はサブスクリプション権限、対応リージョン・SKU の有無、OS とドライバの整合性です。チェックリストで抜け漏れ防止を徹底しましょう。
プロビジョニングはポータルでも CLI でも数分で完了しますが、CLI スクリプトでは private networking と Managed Identity を組み込むと本番運用に近い構成になります。
ランタイム/SDK のインストールは Microsoft の公式リポジトリ経由で行うことで依存関係が自動解決され、Azure ML SDK v2 でシームレスにモデル登録・デプロイが可能です。
パフォーマンス測定は Azure ML Benchmark ツールを活用し、バッチサイズやデータ転送方式のチューニングでスループット最大化を図ります。
セキュリティは VNet・Private Endpoint・Managed Identity・Azure Defender for Cloud の組み合わせが推奨され、コンプライアンス要件（ISO 27001、HIPAA 等）にも対応できます。

次のステップ – 本ガイドをベースに CI/CD パイプライン（GitHub Actions + Azure ML CLI v2）へ自動デプロイを組み込めば、モデル更新ごとに数クリックで推論環境が再構築されます。

参考情報

Microsoft Docs – ND series virtual machines
https://learn.microsoft.com/azure/virtual-machines/n-series
Azure Updates – New region availability for ND96asr_v4 (2025‑12)
https://azure.microsoft.com/updates/
Azure Region Availability
https://learn.microsoft.com/azure/cloud-adoption-framework/ready/region-services
Azure Machine Learning Runtime & GPU support
https://learn.microsoft.com/azure/machine-learning/how-to-use-gpu-clusters

スポンサードリンク