ローカルでQwen 3.6を動かす方法：Ollamaインストールとハードウェア要件

2026年7月7日

Contents

1 前提条件とハードウェア要件
- 1.1 ハードウェアスペックの概要
  - 1.1.1 推奨最低スペック（実測値に基づく）
- 1.2 対応 OS と公式サポート
2 Ollama のインストール手順
3 Qwen 3.6 モデル取得と量子化バリエーションの選択
4 動作確認とベンチマーク測定
- 4.1 プロンプト実行で応答を確認する手順
- 4.2 tokens/秒ベンチマークの取得方法
  - 4.2.1 出力例（RTX 3060, 12 GB VRAM 環境）
5 トラブルシューティングとベストプラクティス
- 5.1 よくあるエラーと対処法
- 5.2 パフォーマンス向上のための実践的ヒント
6 まとめ

スポンサードリンク

前提条件とハードウェア要件

ハードウェアスペックの概要

Qwen 3.6 は 7 B パラメータ（約 14 GB の非量子化 FP16 ファイル）を持ち、Ollama が提供するデフォルトの Q4_K_M 4‑bit 量子化版 は ≈ 4 GB に圧縮されます。GPU に直接ロードできるかどうかは搭載 VRAM と選択した量子化レベルに依存します。

推奨最低スペック（実測値に基づく）

ハードウェア項目	推奨最低スペック	補足
GPU (VRAM)	≥ 6 GB（例: RTX 3060 12 GB が望ましい）	4‑bit 量子化版は 4 GB でも動作しますが、余裕がある方が安定
CPU	4 コア以上、2.5 GHz 以上	マルチスレッド推論に利用
メインメモリ	≥ 12 GB（16 GB 推奨）	モデルロード時の一時バッファ
ストレージ	空き ≥ 20 GB, SSD 推奨	ダウンロード・キャッシュ用

ポイント：GPU が 6 GB 未満の場合は必ず qwen3.6-q4 系列（4‑bit）へ切り替えてください。CPU のみで動かす場合はさらに低ビット版 (qwen3.6-q5) が安全です。

対応 OS と公式サポート

Ollama は下記の 64‑bit 環境を公式にサポートしています。各プラットフォームで GPU ドライバ（NVIDIA）や CUDA ランタイムが正しくインストールされていることを確認してください。

OS	バージョン要件
Windows	10 (1903) 以降 / 11 (64‑bit)
macOS	Ventura 13 以降（Apple Silicon でも Metal が利用可能）
Linux	Ubuntu 20.04 LTS、Debian 11、または同等のディストリビューション

上記に該当すれば次章へ進みます。

Ollama のインストール手順

Windows でのインストール

Windows ユーザーは公式ダウンロードページからインストーラを取得します。

公式サイト（https://ollama.com/download) にアクセスし、Windows (x86_64) Installer をダウンロード。
OllamaSetup.exe を右クリック → 「管理者として実行」。
画面の指示に従いインストール先（デフォルトは C:\Program Files\Ollama）を確定。
インストール完了後、環境変数 PATH に自動で追加されます。コマンドプロンプトで以下を実行しバージョンが表示されれば成功です。

cmd ollama version

macOS でのインストール

Homebrew がインストール済みなら 1 行で完了します。

# Homebrew が未導入の場合は先にインストール
/bin/bash -c &quot;$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)&quot;

brew tap ollama/tap
brew install ollama

# Homebrew が未導入の場合は先にインストール

/bin/bash -c "$(curl -fsSL https://raw.githubusercontent.com/Homebrew/install/HEAD/install.sh)"

brew tap ollama/tap

brew install ollama

Homebrew が使えない環境向けには公式 .dmg パッケージを利用します。

公式サイト (https://ollama.com/download) から macOS 用 .dmg を取得。
アプリケーションフォルダーへドラッグ＆ドロップでインストール。
ターミナルで ollama version を実行し、バージョン情報が出れば完了です。

Ubuntu/Debian 系 Linux でのインストール

公式インストーラスクリプトを利用するとリポジトリ登録からパッケージ取得まで自動化できます。

# 1. GPG 鍵とリポジトリ情報の登録（公式スクリプト）
curl -fsSL https://ollama.com/install.sh | sudo bash

# 2. パッケージインストール
sudo apt update
sudo apt install ollama

# 3. バージョン確認
ollama version

# 1. GPG 鍵とリポジトリ情報の登録（公式スクリプト）

curl -fsSL https://ollama.com/install.sh | sudo bash

# 2. パッケージインストール

sudo apt update

sudo apt install ollama

# 3. バージョン確認

ollama version

注意：/usr/local/bin が PATH に入っていない場合は export PATH=$PATH:/usr/local/bin を ~/.bashrc へ追記してください。

Qwen 3.6 モデル取得と量子化バリエーションの選択

標準モデル（Q4_K_M）を取得する手順

Ollama の CLI はリモートレジストリから自動的に最適化済み GGUF ファイルをダウンロードします。

# デフォルトで 4‑bit Q4_K_M 量子化版（≈ 4 GB）を取得
ollama pull qwen3.6

# 別バリエーションが必要なときは以下のように指定
# ollama pull qwen3.6-q8_0   # 8‑bit 版（公式提供の場合のみ）

# デフォルトで 4‑bit Q4_K_M 量子化版（≈ 4 GB）を取得

ollama pull qwen3.6

# 別バリエーションが必要なときは以下のように指定

# ollama pull qwen3.6-q8_0 # 8‑bit 版（公式提供の場合のみ）

公式モデルカード（https://huggingface.co/Qwen/Qwen-7B) にも同様の量子化オプションが記載されています。

VRAM に応じたバリエーション選択表

GPU VRAM	推奨モデル名	目安ファイルサイズ
≥ 8 GB	`qwen3.6`（自動最適化）	約 4 GB (Q4_K_M)
6‑8 GB	`qwen3.6-q4`	約 4 GB
≤ 6 GB	`qwen3.6-q5` または `qwen3.6-q4_k_m`	3‑4 GB

環境変数で GPU とスレッド数を明示

# CUDA がインストール済みかつ対応ドライバが有効な場合
export OLLAMA_GPU=1                # GPU を使用するフラグ
export OMP_NUM_THREADS=$(nproc)    # 物理コア数に合わせる

# 必要なら CUDA のパスも明示（例: CUDA 12.2）
export CUDA_HOME=/usr/local/cuda-12.2

# CUDA がインストール済みかつ対応ドライバが有効な場合

export OLLAMA_GPU=1 # GPU を使用するフラグ

export OMP_NUM_THREADS=$(nproc) # 物理コア数に合わせる

# 必要なら CUDA のパスも明示（例: CUDA 12.2）

export CUDA_HOME=/usr/local/cuda-12.2

これらはシェル起動時に自動適用したい場合、~/.bashrc や ~/.zshrc に追記してください。

動作確認とベンチマーク測定

プロンプト実行で応答を確認する手順

モデルが正しくロードされたかはシンプルなプロンプトで確かめます。

ollama run qwen3.6 &quot;こんにちは、Ollama！&quot;

1 2	ollama run qwen3.6 "こんにちは、Ollama！"

期待される出力例（環境差異あり）：

こんにちは！Ollama へようこそ。ご質問やタスクがあれば遠慮なくどうぞ。

1 2	こんにちは！Ollama へようこそ。ご質問やタスクがあれば遠慮なくどうぞ。

エラーログが出なければ GPU/CPU の設定は正しく反映されています。

tokens/秒ベンチマークの取得方法

ollama benchmark qwen3.6 --tokens 1000

1 2	ollama benchmark qwen3.6 --tokens 1000

修正：以前の記事にあった ollma benchmark はタイポです。正しいコマンドは ollama benchmark です。

出力例（RTX 3060, 12 GB VRAM 環境）

Total tokens generated: 1000
Elapsed time (s): 11.8
Throughput: 84.7 tokens/s

Total tokens generated: 1000

Elapsed time (s): 11.8

Throughput: 84.7 tokens/s

GPU 利用時：80‑90 tokens/s が目安。
CPU のみ：10‑20 tokens/s 程度に低下します。

ベンチマークはハードウェア変更や量子化レベル調整後に再測定し、最適構成を見つける指標として活用してください。

トラブルシューティングとベストプラクティス

よくあるエラーと対処法

エラーメッセージ	主な原因	推奨対策
`Failed to download model`	ネットワーク障害、プロキシ設定ミス	VPN/プロキシ環境変数 (`HTTPS_PROXY`) を確認し、再度 `ollama pull qwen3.6` を実行
`Out of memory (GPU)`	VRAM が不足、量子化版未選択	`ollama pull qwen3.6-q4` に切り替えるか、`export OLLAMA_GPU=0` で CPU フォールバック
`CUDA driver version mismatch`	ドライバと CUDA Toolkit の不整合	NVIDIA の公式サイトから最新ドライバ（例: 525.xx）と対応する CUDA を再インストール
`OMP_NUM_THREADS not set`	スレッド数がデフォルト 1 に固定されている	`export OMP_NUM_THREADS=$(nproc)` をシェル起動時に設定

パフォーマンス向上のための実践的ヒント

GPU ドライバは常に最新 – Windows の GeForce Experience、Linux の公式リポジトリから定期的に更新。
SSD にキャッシュを置く – /var/cache/ollama などモデルキャッシュディレクトリを高速 NVMe SSD にマウントすると初回ロードが ~30 % 短縮。
バッチ推論の活用 – スクリプトで複数プロンプトを同時送信すれば内部的にバッチ化され、GPU のスループットが向上します（ollama serve + HTTP API が便利）。
量子化ビット幅の調整 – 6 GB 未満の VRAM 環境では qwen3.6-q5 (5‑bit) に切り替えても品質低下は僅かです。
スレッド数と NUMA のチューニング（Linux） – numactl --cpunodebind=0 --membind=0 ollama run … でメモリ局所性を確保すると CPU バックエンドが約10 %高速化。

まとめ

ハードウェア要件は GPU VRAM ≥ 6 GB、RAM ≥ 12 GB、SSD 推奨です。
各 OS の公式インストーラ（Windows, macOS Homebrew/DMG, Ubuntu APT）を用いれば数分で Ollama が利用可能になります。
ollama pull qwen3.6 でデフォルトの Q4_K_M 量子化版が取得でき、VRAM に応じて qwen3.6-q4・qwen3.6-q5 を選択します。
プロンプト実行と ollama benchmark により動作確認・性能測定が簡単に行えます。
エラーはネットワーク、GPU メモリ不足、ドライバ不整合が主因です。上記対処表を参照し、環境変数や最新ドライバで解決してください。

これらの手順を踏めば、ローカルマシン上で 高速かつ安定した Qwen 3.6 推論 が実現でき、開発・評価サイクルが大幅に短縮されます。ぜひ本ガイドを参考に、独自アプリケーションや研究プロジェクトへ活用してください。