Qwen3.8-27Bをローカルで動かす方法|実測サイズとVRAM別の選び方【2026年8月】

大きなブロックの塊が段階的に小さくなり、最後にグラフィックボードへ収まる様子を表した抽象イラスト
2026年8月16日 実測データで確認
Qwen3.8-27Bをローカルで動かす|実測サイズとVRAM別の現実的な選び方

待たれていたQwen3.8のオープンウェイトが公開されました。この記事では、全ファイルサイズを実際に合計した数値をもとに、あなたのGPUで動くかどうかを量子化レベル別に判定します。あわせて、同時公開されたMaxとのライセンスの決定的な違いも解説します。

Alibaba の Qwen チームが Qwen3.8-27B のオープンウェイトを公開しました。27Bという規模は、24GBのGPU 1枚で現実的に動く最大級のクラスです。「ローカルで動かしたいが、結局どれなら動くのか」という問いに、今回はじめて具体的に答えられる材料が揃いました。

この記事では推測を書きません。Hugging Face の API から全ファイルサイズを取得して合計した実測値だけを根拠にします。

結論:あなたのGPUで動くかどうか

51.7 GB

BF16フル精度
(公式リポジトリ実測)

28.7 GB

公式FP8版
(実測)

15.9 GB

Q4_K_M量子化
(実測・24GB級で動く)

量子化レベル別の実測サイズは次のとおりです。GGUF版の各ファイルを実際に合計した数値です。

量子化 実測サイズ 必要VRAMの目安 想定GPU
BF16(フル)51.7 GB64GB以上A100 80GB / H100
FP8(公式)28.7 GB40GB以上A100 40GB / L40S 48GB
Q6_K21.3 GB28GB以上RTX 5090 32GB
Q5_K_M18.5 GB24GB以上RTX 4090 / 3090
Q4_K_M15.9 GB22GB以上RTX 4090 / 3090(推奨)
IQ4_XS14.6 GB20GB以上RTX 4090 / 3090
Q3_K_M12.9 GB16GB以上RTX 4080 / 4060 Ti 16GB
UD-Q2_K_XL9.9 GB12GB以上RTX 4070 12GB(品質低下あり)
「必要VRAM」はモデルサイズだけでは決まりません

上の表の「必要VRAM」は、モデル本体に加えてKVキャッシュと実行時のオーバーヘッドを見込んだ目安です。Qwen3.8-27Bはコンテキスト長が262,144トークンと非常に長いため、長い文脈を扱うほどKVキャッシュがVRAMを圧迫します。

短いやり取りなら表のとおりで足りますが、10万トークン級の文脈を流すなら、モデルサイズの上に数GB〜十数GBの余裕を見てください。ぎりぎりのVRAMで動かすと、長文入力の途中でOOMになります。

迷ったらQ4_K_Mです

実測15.9GBで、24GBのGPU 1枚に余裕をもって収まります。RTX 4090 や 3090 を持っているなら、まずこれを試すのが最短です。品質と容量のバランスが最も良い選択肢として広く使われています。

Qwen3.8-27B はテキスト専用モデルではありません

意外と知られていませんが、27Bはビジョンエンコーダを内蔵したマルチモーダルモデルです。config.json には vision_config が含まれ、アーキテクチャ名は Qwen3_5ForConditionalGeneration となっています。

公式のモデル概要から、主な仕様を抜き出します。

種別ビジョンエンコーダ付き Causal Language Model
パラメータ数27B
レイヤー数64
隠れ次元5,120
コンテキスト長262,144トークン(最大100万まで拡張可)
語彙サイズ248,320
ライセンスApache 2.0

公式は、画像と動画の理解に対応し、STEM分野の図表や文書から1時間規模の動画までを扱えるとしています。ローカルで動く27Bクラスで、ここまで長い動画に対応するモデルは多くありません。

アーキテクチャがハイブリッドになっています

公式が公開しているレイヤー構成は次のような形です。

Hidden Layout(公式モデルカードより)
16 × ( 3 × (Gated DeltaNet → FFN) → 1 × (Gated Attention → FFN) )

通常のアテンション層を4層に1回だけ挟み、残りを線形アテンション系の Gated DeltaNet で構成しています。線形アテンションは文脈長に対するメモリ増加がゆるやかなため、26万トークンという長大なコンテキストを、27Bという規模で成立させるための設計だと読み取れます。

加えて、思考モードは既定でオンで、リクエスト単位での無効化、reasoning_effort による推論の深さ調整、preserve_thinking による過去メッセージの推論文脈の保持に対応しています。

ベンチマーク:Opus 4.6 に迫る項目があります

Qwen が公式モデルカードで公開している比較です。Qwen 自身が測定した数値であり、第三者による独立検証ではない点にご注意ください。

テキスト性能(抜粋)

ベンチマーク Qwen3.8-27B Qwen3.6-27B
(前世代)
Opus4.6 Max
Terminal Bench 2.173.063.478.2
SWE-bench Pro61.753.553.4
DeepSWE 1.142.213.3
IFBench(指示追従)79.569.162.5
LiveCodeBench v690.383.988.8
GPQA Diamond89.287.891.3
HLE30.824.040.0

ビジョン性能(抜粋)

ベンチマーク Qwen3.8-27B Qwen3.6-27B Opus4.6 Max
OSWorld-Verified(PC操作)84.363.972.7
AndroidWorld(モバイル操作)81.970.362.0
SWE-MM(マルチモーダル開発)38.625.727.1
OmniDocBench 1.5(文書理解)91.189.486.6
数値の読み方

エージェント系・コーディング系で強く、純粋な知識・難問推論では及びません。SWE-bench Pro(61.7 対 53.4)や OSWorld-Verified(84.3 対 72.7)ではOpus 4.6 Maxを上回る一方、HLE(30.8 対 40.0)やGPQA Diamond(89.2 対 91.3)では負けています。

「27BでOpusに勝った」という単純な話ではなく、用途によって結果が入れ替わると理解するのが正確です。ターミナル操作やPC操作を任せる用途なら有力、幅広い難問の知識を問う用途なら差が残ります。

なお SWE-bench Pro と DeepSWE 1.1 は、公式注記によると Claude Code のハーネスで評価されています。

実際に動かす手順

いちばん簡単:Ollama

Ollama の公式ライブラリに登録済みです。1行で始められます。

bash
ollama run qwen3.8:27b

Apple Silicon 向けの MLX 版として qwen3.8:27b-mlx も用意されています。

GUIで使う:LM Studio

LM Studio のコミュニティ配布があり、GGUF版に加えて MLX 4bit / 8bit 版も提供されています。Macでメモリを節約したいなら MLX 4bit が扱いやすい選択です。モデル検索で Qwen3.8-27B を指定し、VRAMに合う量子化を上の表から選んでください。

本番用途:vLLM / SGLang

公式モデルカードは、本番ワークロードや高スループット用途では専用の推論エンジンを推奨し、SGLang・vLLM・TokenSpeed の3つを挙げています。それぞれ Qwen3.8 向けのレシピが公開されています。

フレームワークによって性能が大きく変わります

公式モデルカードは「推論効率とスループットはフレームワーク間で大きく異なる」と明記し、最新版の利用を推奨しています。特にこのモデルはハイブリッドアーキテクチャのため、対応が追いついていない古いバージョンでは性能が出ない、あるいは動作しない可能性があります。導入時は各フレームワークを最新にしてください。

Maxとの決定的な違いはライセンスです

同時に Qwen3.8-2.4T-A95B(通称 Max)のウェイトも公開されました。しかし、この2つは扱いが根本的に違います。

項目 Qwen3.8-27B Qwen3.8-2.4T-A95B(Max)
実測サイズ51.7 GB4,556 GB(約4.45TB)
ライセンスApache 2.0独自ライセンス(qwen3.8-max)
構成密結合+ビジョンMoE・専門家512/トークンあたり10使用
個人での実行現実的事実上不可能

Maxは4.45TBです。以前検証したKimi K3の約1.56TBのさらに3倍近くあり、個人はもちろん、中規模の企業でも自前ホスティングは非現実的です。

Maxのライセンス条項を読みました

「独自ライセンス=商用利用不可」と誤解されがちですが、実際の条文は違います。原則として使用・複製・改変・再配布・販売・ホスティング・ファインチューニングまで自由で、制限がかかるのは2つの閾値を超えた場合だけです。

Qwen3.8-Max ライセンスの制限条件
  • 月間アクティブユーザー1億超、または月間売上2,000万ドル超の商用製品・サービスで使う場合 → 製品のUI上にモデル名を目立つ形で表示する義務
  • MaaS(Model as a Service)またはAIワークアシスタント事業を行い、連続する12か月の合計売上が5,000万ドル超の場合 → 商用利用の前にQwenから個別ライセンスを取得する義務

後者には除外規定があり、社内利用にとどまり、モデルや出力・能力を第三者に提供しない場合は対象外とされています。

つまり大半の個人・企業には実質的な制限はありません。とはいえ27B側は素直な Apache 2.0 なので、ライセンス面の懸念を持ち込みたくないなら27Bを選ぶのが確実です。

よくある質問

Q. RTX 4060 Ti(16GB)でも動きますか?

動きます。実測12.9GBの Q3_K_M なら収まります。ただし短めの文脈に限ります。長い文脈を流すとKVキャッシュで足りなくなるため、実用上は UD-Q2_K_XL(9.9GB)まで落とすか、コンテキスト長を制限してください。品質を優先するなら24GB級のGPUを推奨します。

Q. MacBookでも動きますか?

ユニファイドメモリの容量次第です。Q4_K_M が15.9GB なので、32GB以上のメモリがあれば余裕をもって動きます。24GBでも動きますが、他のアプリと同時使用すると厳しくなります。Apple Silicon なら MLX 版(Ollamaの qwen3.8:27b-mlx、LM StudioのMLX 4bit)の方が高速です。

Q. 商用利用できますか?

27BはApache 2.0なので、商用利用・改変・再配布いずれも可能です。Apache 2.0の通常の条件(著作権表示とライセンス文の保持など)に従ってください。Maxは上記の閾値を超える場合のみ追加義務が発生します。

Q. 画像や動画も本当にローカルで扱えますか?

モデル自体はビジョンエンコーダを内蔵しているため対応しています。ただし実行フレームワーク側の対応状況によります。GGUF形式の量子化版はテキスト中心の運用が主となるため、画像・動画を確実に扱いたい場合は vLLM や SGLang で公式リポジトリのウェイトを使う構成が確実です。

Q. Kimi K3と比べてどちらを選ぶべきですか?

ローカル実行が目的なら、比較の余地なくQwen3.8-27Bです。Kimi K3は実測1.56TB、Qwen3.8-Maxは4.45TBで、いずれも個人環境では動きません。24GBのGPU 1枚で動く27Bクラスというのが、Qwen3.8-27Bの最大の価値です。

まとめ

この記事の要点
  • Qwen3.8-27B のフル精度は実測51.7GB、公式FP8版は28.7GB
  • Q4_K_M が実測15.9GB。RTX 4090/3090 の24GBに余裕をもって収まる
  • 16GB級なら Q3_K_M(12.9GB)、12GB級なら UD-Q2_K_XL(9.9GB)
  • コンテキストは26万トークン。長文を流すならVRAMに追加の余裕が必要
  • ビジョンエンコーダ内蔵のマルチモーダルモデル。画像・動画に対応
  • エージェント系・コーディング系は強いが、難問推論ではOpus 4.6に届かない
  • 27BはApache 2.0。Maxは4.45TBかつ独自ライセンス

最初の一歩としては、ollama run qwen3.8:27b を実行して、手元のGPUで実際に生成速度を測ってみるのが確実です。表の数値はあくまでモデルサイズであり、実際の使い心地は生成速度で決まります。数トークン毎秒しか出ないなら、量子化を1段階落とす判断ができます。

Kimi K3で同じ検証をした際の手順やvLLM構成については、Kimi K3をローカルで動かす方法で詳しく解説しています。

タイトルとURLをコピーしました