RTX 3090（24GB）でQwenはどこまで動くのか — 6モデル実測で見えた世代差と地雷
前回、M1 Max 64GBのMacでローカルLLM 6モデルを比較した。今回はその続編として、Windows + RTX 3090（VRAM 24GB） という「ローカルLLM運用のもう一つの定番構成」で、Qwen系を中心に6モデルを実測した。
結論を先に書くと：
- 総合ベスト:
qwen3.6:35b（MoE）— 約110 tok/sで品質も最上位。ただしVRAMはギリギリ - 安定運用:
qwen3.6:27b— 19GBで余裕を残しつつ品質は同格。速度は38 tok/s - コーディング:
qwen3-coder:30b— 実測160 tok/sの爆速 - 地雷: 旧世代の
qwen3:32b— 遅い上に、翻訳で全数値が100倍ずれる事故を起こした
検証環境
| 項目 | スペック |
|---|---|
| GPU | NVIDIA GeForce RTX 3090（VRAM 24GB GDDR6X） |
| CPU | Intel Core i9-9900X（10コア20スレッド） |
| RAM | 64GB |
| OS | Windows 11 Pro |
| ランタイム | Ollama 0.32.6 |
RTX 3090は2020年発売のGPUだが、VRAM 24GBは現行のRTX 4090と同容量。中古価格がこなれた今、「ローカルLLM入門の最適解」としてまだ現役だ。
セットアップは3コマンドで終わる：
winget install Ollama.Ollama
ollama pull qwen3.6:35b
ollama run qwen3.6:35b
比較した6モデル
Ollamaのデフォルトタグ（いずれもQ4量子化）を使用した。
| モデル | 世代 | 構造 | ファイルサイズ | 実測VRAM使用 | GPU収容率 |
|---|---|---|---|---|---|
| qwen3:8b | Qwen3 | dense | 5.2GB | 7.5GB | 100% |
| qwen3:14b | Qwen3 | dense | 9.8GB | 12.0GB | 100% |
| qwen3:32b | Qwen3 | dense | 20.6GB | 22.6GB | 100% |
| qwen3.6:27b | Qwen3.6 | dense | 15.6GB | 19.1GB | 100% |
| qwen3.6:35b | Qwen3.6 | MoE (A3B) | 21.7GB | 24.0GB | 97% |
| qwen3-coder:30b | Qwen3 | MoE (A3B) | 18.0GB | 19.9GB | 100% |
計測はOllama APIの生成統計（eval_count / eval_duration）と nvidia-smi、GPU収容率は /api/ps の size_vram / size から算出。コンテキスト長は8192で統一し、思考モード（think）はオフにした。
ベンチマーク①：生成速度
3タスク（日本語記事生成・数値保持翻訳・Pythonコーディング）の実測値。
| モデル | 生成速度 (tok/s) | プロンプト処理 (tok/s) | コールドロード |
|---|---|---|---|
| qwen3-coder:30b | 157〜160 | 300〜600 | 17秒 |
| qwen3:8b | 116〜122 | 350〜750 | 8秒 |
| qwen3.6:35b | 106〜112 | 170〜510 | 40秒 |
| qwen3:14b | 73〜75 | 310〜450 | 18秒 |
| qwen3.6:27b | 38〜39 | 170〜340 | 33秒 |
| qwen3:32b | 36〜37 | 300〜530 | 19秒 |
見どころは2つ。
MoEの暴力的な速さ。 総パラメータ35Bの qwen3.6:35b が、8Bのdenseモデル並みの110 tok/sで走る。トークンあたりの活性パラメータが3Bしかないためだ。qwen3-coder:30b に至っては160 tok/s。denseの32Bが36 tok/sであることを考えると、同じVRAM消費で3〜4倍の速度が出ている。
「27Bと32Bはほぼ同速」。 世代が新しい qwen3.6:27b は、旧 qwen3:32b と同じ約38 tok/sだが、後述の通り品質は圧倒的に27Bが上。旧32Bを選ぶ理由はもうない。
なお、記事1本の生成に換算すると、35bで約10秒、27bでも約30秒。M1 Maxで同系統のモデル（q8だが）を使ったときは記事パイプライン一式で10分超だったので、体感はまるで別物だ。
ベンチマーク②：数値保持翻訳 — ここで地獄を見る
ニュース記事パイプラインで一番怖いのは「数値の捏造・誤変換」だ。billionを含む決算文を訳させて、数値が正確に保持されるかを見た。
原文（抜粋）：
Nvidia reported Q3 revenue of $57.0 billion ... operating expenses rose 38% to $5.84 billion. The GB300 ramp contributed $10 billion ...
| モデル | $57.0B | $5.84B | $10B | 判定 |
|---|---|---|---|---|
| qwen3.6:27b | 570億ドル ✓ | 58億4千万ドル ✓ | 100億ドル ✓ | ◎ 全問正解 |
| qwen3.6:35b | 570億ドル ✓ | 58億4,000万ドル ✓ | 100億ドル ✓ | ◎ 全問正解 |
| qwen3-coder:30b | 570億ドル ✓ | 58.4億ドル ✓ | 100億ドル ✓ | ◎ 全問正解 |
| qwen3:14b | 570億ドル ✓ | 58億4000万ドル ✓ | 1000億ドル ✗ | △ 1箇所誤変換 |
| qwen3:8b | 570億ドル ✓ | 584億ドル ✗ | 1000億ドル ✗ | ✗ 2箇所誤変換 |
| qwen3:32b | 57.0億ドル ✗ | 5.84億ドル ✗ | 10億ドル ✗ | ✗ 全滅 |
qwen3:32b の出力はこうだ：
Nvidiaは、第3四半期の売上収入が57.0億ドルと、前年同期比で62％増加したと発表しました。
billionを機械的に「億」と置き換えて、全数値が100分の1になっている。文章は流暢なので、読んでいて気づきにくいのが最悪だ。8b・14bも「$5.84 billion→584億ドル」「$10 billion→1000億ドル」型の桁ズレを起こした（再実行でも再現）。
一方、Qwen3.6世代は3モデルとも全問正解。billion→億の換算という日本語特有の難所を確実に越えてくる。翻訳を含むパイプラインを組むなら、この一点だけでもQwen3.6世代を選ぶ価値がある。
ベンチマーク③：日本語記事の品質
「ローカルLLMをRTX 3090で動かすメリット」というテーマで800字の記事を書かせた。
- qwen3.6:27b / 35b: 構成・論理展開・具体性とも頭一つ抜けている。VRAM要件の数値（7B FP16≒14GBなど）を交えた説明ができる。ただし27bの出力に「データ主权」と簡体字が混入した。Qwen系の宿命的な癖で、機械的な後処理（正規表現での置換）を入れておくべき
- qwen3:14b: 体裁は整っているが、「クラウドより推論が2〜3倍速い」のような根拠の怪しい主張が混じる
- qwen3-coder:30b: 記事は簡素で短め（コーディング特化なので想定内）。ただしコーディングタスクでは、指示への忠実さ・速度とも文句なし
- qwen3:8b: 骨組みはあるが内容が薄い
VRAM 24GBの攻防 — 35bの「97%問題」
qwen3.6:35b はコンテキスト8192の時点でVRAM使用が24.0GBに達し、モデルの3%がシステムRAMに溢れた（GPU収容率97%）。それでも110 tok/s出るのはMoEの活性パラメータが小さいおかげだが、注意点がある：
- コンテキストを増やすとKVキャッシュが溢れ、速度が階段状に落ちる。長文コンテキスト運用（RAG、長文要約）なら27bのほうが安全
- 27bは19.1GBで約5GBの余裕があり、コンテキストを32K程度まで広げてもGPU内に収まる計算
- デスクトップ環境ではブラウザ等もVRAMを数百MB使う。ギリギリ運用は事故のもと
Macとの根本的な違いはここだ。ユニファイドメモリ64GBのMacはQ8の大型モデルを「遅いが動く」状態で扱えるのに対し、RTX 3090は24GBに収まる限り圧倒的に速く、溢れた瞬間に失速する。量子化はQ4が事実上の標準になる。
用途別の結論
| 用途 | 推奨モデル | 理由 |
|---|---|---|
| 総合（チャット・執筆・翻訳） | qwen3.6:35b | 110 tok/s + 最高品質。短〜中コンテキスト向け |
| 長コンテキスト・安定運用 | qwen3.6:27b | 品質同格でVRAMに5GBの余裕。速度は我慢 |
| コーディング | qwen3-coder:30b | 160 tok/s。エージェント用途にも |
| 省VRAM・下書き量産 | qwen3:8b | 7.5GBで120 tok/s。数値を扱う用途は不可 |
| 選んではいけない | qwen3:32b | 27bと同速・同VRAMで品質は大差負け |
まとめ
- RTX 3090は2026年でもローカルLLMの現役機。Qwen3.6世代 + Q4量子化という組み合わせなら、24GBで27B〜35Bクラスが快適に動く
- MoEはdenseの3〜4倍速い。VRAMが同じなら迷わずMoEを選ぶ
- モデル選定で世代は正義。旧世代の大型（32B）より新世代の中型（27B）。翻訳の数値事故がそれを証明した
- Qwen系の簡体字混入は健在。日本語パイプラインには後処理を一枚挟むこと
セットアップからここまで、かかった費用は電気代のみ。モデルのダウンロード合計は約90GBなので、回線とディスクにだけ余裕を持たせておこう。