Kimi K3はローカルで動かせるのか?公開された実ウェイト1.56TBで検証【2026年7月】

AIツール
実測データ

Kimi K3はローカルで動かせるのか?公開された実ウェイト1.56TBで検証【2026年7月】

Kimi K3のオープンウェイトが2026年7月27日に公開されました。Hugging Faceから実際のファイルサイズと公式スペックを取得し、個人PCやオンプレ環境で動かせるのかを数字で検証します。結論として個人PCでは動きませんが、ライセンスが想定以上に寛容だったことなど、実データを見て初めて分かる点がいくつもありました。

【2026年8月2日 追記】

本記事は「Kimi K3をローカルで動かせるのか」を、公開されたウェイトの実測値から検証した記事です。そのうえで実際にどのエンジン・構成で動かすのか(vLLM・SGLangの推奨構成、OllamaとLM Studioで動かせない理由)は、続編のKimi K3をローカルで動かす方法|Ollama・LM Studioでは難しい理由とvLLM構成にまとめています。

先に結論

  • ウェイトは公開されました。2026年7月27日 16:29(UTC)にHugging Faceで公開され、ライセンス同意なしで誰でもダウンロードできます
  • 実測サイズは1,561GB(約1.56TB)。96個のファイルに分割されています
  • これはすでに4bit量子化された状態のサイズです。つまり「圧縮すれば小さくなる」余地はほとんど残っていません
  • 必要なGPUメモリは約1.87TB。コンシューマ最上位GPUで59枚相当で、個人PCでは動きません
  • 一方でライセンスは予想以上に寛容でした。商用利用・改変・再配布が原則自由で、制限がかかるのは大企業規模の場合だけです
  • 総パラメータは2.8兆ですが、推論時に実際に使われるのは104Bという構造です。ただしこれは「メモリが少なくて済む」という意味ではありません(後述)

PR

手元で動かせる規模のモデルを試すための機材

Kimi K3本体は個人PCでは動きませんが、数十億〜数百億パラメータ規模の軽量モデルであればVRAMの大きいGPUと大容量メモリで動かせます。現在の価格と在庫は販売ページでご確認ください。

AmazonでGPU・PCパーツを探す

公開されたウェイトの実データ

確認方法

2026年7月28日朝(日本時間)に、Hugging FaceのAPIから直接取得した値です。第三者メディアの記述ではなく、リポジトリの実データとMoonshot AI公式のモデルカードに基づいています。

項目実測値・公式値
公開日時2026年7月27日 16:29(UTC)
ウェイト合計サイズ1,561 GB(約1.56 TB)
safetensorsファイル数96個(リポジトリ全体では118ファイル)
ダウンロード制限なし(gated: false。ライセンス同意画面なし)
総パラメータ2.8兆(2.8T)
活性化パラメータ104B
アーキテクチャMoE(混合エキスパート)
エキスパート数896個(うちトークンごとに16個を選択+共有2個)
レイヤー数93層(うち密結合層1層)
アテンション構成69 KDA + 24 Gated MLA
コンテキスト長100万トークン(1,048,576)
語彙サイズ160K
マルチモーダルネイティブ対応(テキスト・画像・動画)

すでに4bit量子化された状態で配布されている

ここが重要です。配布されているウェイトはmxfp4形式(4bit、グループサイズ32)で量子化済みです。設定ファイルを見ると、量子化の対象から除外されている部分も明記されていました。

部分扱い
MoEのエキスパート層4bitに量子化(サイズの大半を占める部分)
アテンション層(self_attn)量子化しない
共有エキスパート(shared_experts)量子化しない
出力層(lm_head)量子化しない
視覚系(vision_tower・mm_projector)量子化しない

精度に効きやすい部分は高精度のまま残し、容量を食うエキスパート層だけを圧縮する設計です。よく考えられていますが、利用者側から見れば「これ以上圧縮する余地が乏しい」ことを意味します。「自分で4bitに量子化すれば載る」という発想は、すでに先回りされています。

自分で確認するコマンド

curl -s "https://huggingface.co/api/models/moonshotai/Kimi-K3?blobs=true" | python3 -c "\nimport json,sys\nd=json.load(sys.stdin)\nsf=[f for f in d['siblings'] if f['rfilename'].endswith('.safetensors')]\nprint(f'ファイル数: {len(sf)}')\nprint(f'合計: {sum(f[\\"size\\"] for f in sf)/1e9:.0f} GB')\nprint(f'ダウンロード制限(gated): {d.get(\\"gated\\")}')\n"

必要スペック:どれだけ足りないのか

モデルを動かすには、ウェイト全体をGPUメモリ(VRAM)に載せる必要があります。別記事の計算式を使います。

必要VRAM(GB) ≈ ウェイトのサイズ(GB) × 1.2\n             ≈ 1,561 × 1.2\n             ≈ 1,873 GB(約1.87 TB)\n\n(1.2はKVキャッシュや実行時オーバーヘッドの係数。\n 100万トークンのコンテキストを使うなら、さらに余裕が要る)
GPU1枚のメモリ必要枚数(1,873GB)現実的な構成
NVIDIA H200141 GB14枚2ノード(16枚)
NVIDIA H10080 GB24枚3ノード(24枚)
RTX 5090(コンシューマ最上位)32 GB59枚現実的な構成なし

クラウドで借りた場合の目安は、別記事の試算(GCP公開料金ベース、GPU代のみ、24時間365日稼働)から引くとH200を2ノードで月額1,400万円規模です。ストレージ・ネットワーク・運用工数は含みません。

「活性化104Bだから104B分のメモリで済む」は誤りです

MoEの説明で「2.8兆のうち推論時に使うのは104Bだけ」と聞くと、必要メモリも104B相当で済むように思えます。これは違います。

どのエキスパートが選ばれるかはトークンごとに変わります。896個のうちどれが呼ばれるか事前に分からないため、全エキスパートをメモリ上に置いておく必要があります。104Bという数字が効くのは「1トークンあたりの計算量」であって、メモリ要件ではありません。

つまりMoEは「速いが、メモリは食う」構造です。だからこそ2.8兆パラメータでありながら実用的な速度が出せる一方、載せるためのハードルは総パラメータ側で決まります。

ライセンスは予想以上に寛容だった

公開前に「ライセンス条件を必ず確認すべき」と書きましたが、実際に読んでみるとかなり自由度の高い内容でした。ここは良い意味で予想を裏切られた部分です。

原則として自由にできること

  • 使用・複製・改変・結合・公開・配布・サブライセンス・販売
  • 実行・デプロイ・ファインチューニング・派生モデルの作成
  • 商用利用(下記の制限に該当しない限り)

条件は「著作権表示とライセンス条項を複製物に含めること」「適用される法令を遵守すること」という一般的なものです。

制限がかかる2つのケース

ケース条件義務
MaaS事業者 「Model as a Service」を運営し、連続する12か月の合計収益が2,000万米ドル超 商用利用の前にMoonshot AIと個別契約が必要
大規模プロダクト 月間アクティブユーザー1億人超、または月間収益2,000万米ドル超 プロダクトのUI上に「Kimi K3」を目立つ形で表示

ここでいう「Model as a Service」は、第三者が入力・パラメータ・学習データを実質的にコントロールできる形でモデル推論やファインチューニングを提供することと定義されています。自社プロダクトの機能として組み込む形や、他社がホストするモデルへのリクエストを中継するだけの形は含まれません。

社内利用は制限の対象外

上記2つの制限は、社内利用(モデル・その出力・その能力を第三者に提供しない使い方)には適用されませんと明記されています。Moonshot AIの公式プロダクトや認定推論パートナー経由での利用も対象外です。

つまり「自社の業務のために自社環境で動かす」用途であれば、規模を問わず制限を気にする必要はありません。オンプレ導入を検討する企業にとっては扱いやすい条件です。

ライセンス全文はリポジトリのLICENSEファイルにあります。実際に導入判断をする際は、必ず原文と自社の状況を照らして法務確認してください。この記事の記述は要約であり、法的助言ではありません。

公式が公表しているベンチマーク

モデルカードに記載されている評価結果です。Moonshot AIの自社測定値であり、第三者による独立検証ではない点に注意してください。

ベンチマークスコア測る内容
GPQA Diamond93.5大学院レベルの科学的推論
DeepSWE67.5エージェント型のソフトウェア開発
HLE56難問集(Humanity’s Last Exam)
APEX-Agents41エージェントの実務タスク

公式は新アーキテクチャとしてKimi Delta Attention(KDA)Attention Residuals(AttnRes)を挙げ、Stable LatentMoEにより896個中16個のエキスパートを活性化する構成で、K2比で約2.5倍のスケーリング効率を実現したとしています。

では「ローカルで動かしたい」目的別に何をするか

ここが実務的にいちばん大事な部分です。「ローカルで動かしたい」の裏にある目的は人によって違い、目的が分かれば取るべき手段も変わります。

本当の目的推奨する手段理由
データを外部に出したくない より小さいオープンモデルを自社環境で動かす K3は1.87TB必要で個人・小規模組織には非現実的。数十GB級なら1〜2枚のGPUで動く
APIのコストを抑えたい API利用のまま最適化する 自前ホスティングの方が桁違いに高い。損益分岐点の計算は別記事参照
オフラインで使いたい 小型モデル(数B〜十数B級) K3級は諦める。用途を絞れば小型でも実用になる
とにかくK3のウェイトを触ってみたい クラウドGPUを時間単位で借りる 数時間なら現実的な金額。買うのではなく借りる
企業のオンプレ環境で本番運用したい ライセンス上は可能。要はGPU予算次第 社内利用なら追加の契約義務なし。H200×16枚規模の設備投資と運用体制が要る
単にKimi K3を使いたい API・Web・CLIで使う ローカル実行にこだわる理由がないなら、これが最短で最安

小さいモデルで済むなら選択肢はある

Moonshot AIは大規模モデル以外も公開しています。実際に公開されていて、ダウンロード数も多いものを挙げます。

モデル特徴月間ダウンロード
Kimi-VL-A3B-Instruct視覚対応・アクティブパラメータ3B級約38万
Kimi-VL-A3B-Thinking上記の推論強化版約16万
Moonlight-16B-A3B-Instruct16B規模・アクティブ3B級約4万
Kimi-Linear-48B-A3B-Base48B規模・アクティブ3B級約1千

これらは全体規模のわりにアクティブパラメータが小さいMoE構成なので、動かしやすいのが特徴です。「Kimiを自分の環境で動かす」体験が目的なら、ここから始めるのが現実的です。

最上位モデルと小型モデルは用途が違う

期待値の調整として書いておきます。3B級のモデルにK3と同じ働きを求めても無理です。要約・分類・簡単な変換のような限定された用途では十分実用になりますが、長時間の自律コーディングのような用途は最上位モデルの領域です。

「ローカルで動かす」と「最上位の性能を使う」は、現時点では両立しません。どちらを優先するかを先に決めてください。

ダウンロードする前に確認したいこと

ライセンス同意なしで落とせるようになっているぶん、始める前の確認が大切です。

  1. 置き場所と回線。1,561GBです。回線速度によっては数日かかりますし、保存先の空き容量も必要です。途中で止まったときに再開できる方法(huggingface-cli のダウンロード再開など)を用意してから始めてください
  2. 公式アカウントかどうかmoonshotai/Kimi-K3 が公式です。同名・類似名のリポジトリを個人が作っているケースが実際に存在します
  3. そもそも動かす環境があるか。落としてから「載らない」と気づくのが最ももったいないパターンです。この記事の必要枚数の表で先に確認してください
  4. ライセンスの該当性。社内利用なら気にする必要はありませんが、外部提供する事業に使う場合は前述の2つの条件に該当しないか確認してください

よくある質問

Q. さらに量子化すれば個人PCで動きませんか?

実質的に無理です。配布されているウェイトはすでにmxfp4(4bit)で量子化済みだからです。これ以上圧縮すると精度が大きく落ちますし、仮に2bitまで落としても約780GB。コンシューマGPU 24枚相当で、やはり個人PCの範囲を超えます。「量子化で個人PCに載せる」は数十GB級のモデルで有効な手法であって、TB級には通用しません。

Q. Mac StudioのUnified Memoryなら動きませんか?

K3には足りません。Apple Siliconは大きなメモリを推論に使える点で有利ですが、それでも上限は数百GBの範囲で、1.87TBには届きません。ただし前述の小型モデル(A3B系)であれば、Apple Siliconは有力な選択肢になります。なお現行Mac Studioの選択可能なメモリ構成は変動しているため、購入検討時はApple公式の仕様ページで最新の構成を確認してください。

Q. CPUとシステムメモリにオフロードすれば動きますか?

技術的には可能ですが、実用速度にはなりません。GPUメモリとシステムメモリでは帯域が桁違いで、ウェイトの大部分をシステムメモリに置くと、1トークン出すのに数秒以上かかる状態になり得ます。「起動はした」と「使える」は別問題です。検証目的なら意味がありますが、業務利用は想定しないでください。

Q. なぜ動かせないサイズなのにオープンウェイトとして公開するのですか?

オープンウェイトの公開は「個人PCで動かせるようにする」ためだけのものではありません。研究目的での分析、企業や研究機関が自社インフラで動かす、他社がファインチューニングして派生モデルを作る、といった用途が主です。特にK3はライセンスが商用利用・派生モデル作成に寛容なので、企業や研究機関にとっての意味は大きいと言えます。「オープン=手元で動く」という前提が、TB級モデルの時代には成立しなくなっています。

Q. 結局いま何をすればいいですか?

Kimi K3を使いたいだけなら、API・Web・CLIから使うのが最短です(セットアップ手順と料金・レート制限は別記事)。ローカル実行が目的なら、まず「なぜローカルなのか」を言語化してください。データを外に出せない要件であれば小型モデル、コスト削減が目的であればAPIの最適化、という具合に答えが変わります。この記事の目的別の表を使ってください。

ローカル実行が目的なら、24GBのGPU 1枚で動くQwen3.8-27Bが現実的な選択肢になります。量子化別の実測サイズはQwen3.8-27Bをローカルで動かす方法|実測サイズとVRAM別の選び方をご覧ください。

まとめ

公開されたウェイトを実際に確認して分かったこと
  • 2026年7月27日 16:29 UTCに公開。ライセンス同意なしで誰でもダウンロードできる
  • 実測1,561GB(1.56TB)、96ファイル。すでにmxfp4(4bit)で量子化済み
  • 必要VRAMは約1.87TB。H200で14枚(2ノード)、コンシューマGPUなら59枚相当
  • 活性化104Bでもメモリは総パラメータ側で決まる。MoEは「速いがメモリは食う」
  • ライセンスは寛容。商用利用・改変・再配布が原則自由で、社内利用なら追加義務なし
  • 制限対象はMaaS事業で年商2,000万ドル超、または1億MAU/月商2,000万ドル超のプロダクトのみ
  • 公式ベンチマークはGPQA Diamond 93.5・DeepSWE 67.5・HLE 56(いずれも自社測定)
  • 個人で試したいなら、A3B系の小型モデルから始めるのが現実的

今日やれる最初の一歩は、この記事のcurlコマンドを実行して、自分の目でサイズを確認することです。1,561という数字を自分で取れると、「量子化すれば」「MoEだから」といった希望的観測に流されずに判断できます。そのうえで、自分の目的が本当にローカル実行を必要としているのかを考えてみてください。企業のオンプレ運用であれば、ライセンス面のハードルは想像より低いはずです。

タイトルとURLをコピーしました