AI実践ガイド

Qwen3.8-27B をローカルで動かす
17GBで動く2.4兆の弟分と、Claude Codeを無料で回す方法

2.4兆パラメータのほうは4.89テラバイトあって、個人にはどうにもなりませんでした。 でも弟分の27Bは17GB。しかもapache-2.0で、もう9万回落とされています。

サムネイル案
サムネイル案

この記事でわかること

  1. LM Studioに並ぶ Qwen3.8の名前の違い（27B / 2.4T / Q4 / MLX…）
  2. 自分のマシンならどれを選ぶべきか・何GB必要か
  3. ローカルで実際に何ができるのか
  4. Claude Codeをローカルモデルで動かす手順

1

本命は、巨大なほうではなかった

Qwen3.8には大きく2つあります。話題になったのは2.4兆パラメータのフラッグシップですが、 実際に使われているのは27Bのほうでした。数字がそれをはっきり示しています。

Qwen3.8-27BQwen3.8-2.4T
いいね9,895611
ダウンロード91,917978
ライセンスapache-2.0独自（条件つき）

約16倍の差。みんなが欲しかったのは、巨大なほうではなく手元で動くほうだったわけです。

ライセンスの違いも見逃せません。2.4Tのほうは利用規模によって条件がつく独自ライセンスですが、 27Bは apache-2.0。商用利用も改造も再配布も、制限なしの標準ライセンスです。 ※ Hugging Face API を 2026-08-16 に直接叩いた実測値

2

27Bと2.4Tは、名前が似ているだけの別物

Qwen3.8-27BQwen3.8-2.4T-A95B
構造27B デンス（全部使う）2.4兆 MoE（512人中11人が働く）
公式重みの実サイズ55.6 GB4.89 TB
4bitに量子化すると約17 GB1bitでも 508 GB
画像・動画読める（ネイティブVLM）重み版は読めない
個人で動くか◯✕

2.4兆のほうは1ビットまで潰しても508GB・12分割。もう個人の機材の話ではありません。

名前は似ているが、別物
名前は似ているが、別物
27Bの中身：64層・hidden 5120・ネイティブの視覚言語モデル（画像だけでなく長い動画も理解）・ コンテキストは262,144トークン（100万まで拡張可）・thinkingは既定ONでリクエスト単位に切れます。 ※ 公式モデルカードと config.json より

3

LM Studioに並ぶ名前の意味

LM Studioで Qwen3.8 と検索すると候補が大量に出てきます。 全部同じモデルの圧縮率違いです。実サイズを測ると、こうなっています。

LM Studio上の表記実体サイズ誰向け
Q4_K_M4bit量子化・GGUF17.1 GBいちばんの定番
Q6_K6bit22.4 GB品質重視
Q8_08bit29.0 GBほぼ無劣化
UD-IQ2_XXS2bit（極限圧縮）9.0 GB低スペック機の最終手段
MLX 4bitApple Silicon専用16.1 GBMacならこれ
MLX 8bitApple Silicon専用29.5 GB64GB機の最適解
mmproj-…BF16画像認識用の追加部品0.9 GB画像を読ませるなら必須
公式 safetensors無量子化 BF1655.6 GB研究・再学習向け

覚えるルールは2つだけです。

  1. 数字が大きいほど高品質で重い（Q4 → Q6 → Q8）
  2. MacはMLX、Windows/LinuxはGGUF（MLXはApple Silicon向けに最適化されていて速い）

必要なメモリの目安はファイルサイズ＋4GBほど。文脈を長くするとさらに要ります。

LM Studioに並ぶ名前の意味
LM Studioに並ぶ名前の意味
⚠ よくあるつまずき：mmproj を入れないと、 画像を投げても読んでくれません。モデル本体と同じ画面から一緒に落としてください。

4

まず動かす

環境の確認から。

収録前チェック

~/.lmstudio/bin/lms version

落としてあるモデルの確認

~/.lmstudio/bin/lms ls

モデルをロードしたら、プロジェクトについて聞いてみます。

デモ①プロンプト

このプロジェクトの構成を説明してください。使っている技術と、初見の人がまず読むべきファイルの順番を、理由つきで挙げてください。

27Bはネイティブの視覚言語モデルなので、スクリーンショットをそのまま投げて読ませられます。 ここが単なるチャットボットとの違いです。

デモ①画像プロンプト

この画面のスクリーンショットを読んで、①何のツールの画面か ②ユーザーが今どの操作をしようとしているか ③次に押すべきボタンはどれか を答えてください。

5

Claude Code を、手元のQwen3.8-27Bで動かす

ここがこの記事の本題です。チャットで質問して終わりではなく、 プロジェクトを触らせるところまでいくのがオープンウェイトの value です。

仕組みは拍子抜けするほど単純で、LM Studioが Anthropic互換のAPIを立てるので、 Claude Codeの接続先をそこへ向けるだけです。

接続先を変えるだけ
接続先を変えるだけ
⚠ 前提：LM Studio 0.4.1 以降が必要です （Anthropic互換の /v1/messages が要る）。 文脈は25,000トークン以上にしておいてください。Claude Codeは文脈を大量に使います。

手順1　ローカルサーバを立てる

デモ②サーバ起動

~/.lmstudio/bin/lms server start --port 1234

手順2　立ったか確認する

デモ②疎通確認

curl -s http://localhost:1234/v1/models | python3 -m json.tool

手順3　接続先をローカルへ向ける

デモ②環境変数

export ANTHROPIC_BASE_URL=http://localhost:1234
export ANTHROPIC_AUTH_TOKEN=lmstudio
export CLAUDE_CODE_ATTRIBUTION_HEADER=0

手順4　モデルを指定して起動する

デモ②起動

claude --model qwen3.8-27b

手順5　実際に仕事をさせる

デモ②プロンプト

このプロジェクトにREADME.mdを新規作成してください。構成・セットアップ手順・使い方の3節で、実在するファイルだけを根拠に書いてください。存在しないファイルには触れないこと。

ここまで通ると、Claude CodeのUIのまま、中身だけがQwenという状態になります。 Wi-Fiを切っても動き続けるので、完全にオフラインです。

⚠ 終わったら必ず戻してください。環境変数を出したままだと、 普段のClaude Codeがローカルに繋がったままになります。
unset ANTHROPIC_BASE_URL ANTHROPIC_AUTH_TOKEN

6

もう1つの道 ── Qwen Code CLI

Claude Codeを入れていない人には、Qwen公式のターミナル型エージェントという選択肢もあります。

デモ③導入

curl -fsSL https://qwen-code-assets.oss-cn-hangzhou.aliyuncs.com/installation/install-qwen-standalone.sh | bash

デモ③起動

export OPENAI_API_KEY="sk-local"
export OPENAI_BASE_URL="http://localhost:1234/v1"
export OPENAI_MODEL="qwen3.8-27b"
qwen

こちらはOpenAI互換の接続なので、同じやり方で他の道具も繋がります。 OpenAI向けに書いた既存のコードも、接続先を差し替えるだけでローカルに向けられます。

7

できること・できないこと

ローカルで、できること・できないこと
ローカルで、できること・できないこと
できる苦手
コードの生成・既存プロジェクトの読解と編集クラウド最上位モデルの精度
画像・動画の理解（ネイティブVLM）長時間の自律作業の安定性
長文読解（262Kトークン）速度（機材次第）
完全オフライン動作—

正直に言うと、精度も速度もクラウドのトップには届きません。 価値は賢さではなく、無料・オフライン・情報が外に出ないことにあります。

だから向いているのは、外に出せないコードや資料を扱うとき、 大量に回してAPI課金が痛いとき、ネットが無い場所、 そして実験して壊してもタダという状況です。

料金の考え方：APIなら27Bで $0.45 / $3.20 per 1Mトークン。 ローカルなら電気代だけです。ただし17〜30GBのディスクと、それを積んだマシンが前提。 そこが実質の初期投資になります。

8

まとめ