30.5BMoEQwen3 30B-A3Bの必要VRAM
量子化・コンテキスト長別の早見表
Qwen3 30B-A3B(Alibaba (Qwen) / 30.5B / 汎用・チャット)を ローカルで動かすのに必要なメモリを、重み＋KVキャッシュ＋作業領域の合計として計算しました。 諸元は配布元の公開データから取得しています。
あなたのPCで動くか
あなたのPC検出中…GPUを自動検出中…VRAM 8GBメモリ 16GBWindows
他のPCで試す
コンテキスト長8,192 トークン
あなたの環境(VRAM 8GB)での判定
- DQ4_K_M19.6GBかなり遅い
- DQ5_K_M22.7GBかなり遅い
- FQ6_K25.9GB載らない
- FQ8_033.1GB載らない
- FFP1661.1GB載らない
S〜F のランクの意味はトップページに一覧があります。
他のモデルも一括で判定するならローカルLLM動作チェッカーへ。
必要メモリの早見表
| 量子化 | 4k トークン | 8k トークン | 32k トークン |
|---|---|---|---|
| Q4_K_M4.9bit/重み | 19.3GB | 19.6GB | 21.9GB |
| Q5_K_M5.72bit/重み | 22.3GB | 22.7GB | 24.9GB |
| Q6_K6.57bit/重み | 25.5GB | 25.9GB | 28.1GB |
| Q8_08.5bit/重み | 32.7GB | 33.1GB | 35.3GB |
| FP1616bit/重み | 60.7GB | 61.1GB | 63.3GB |
KVキャッシュは16bitで計算しています(8bitにすると、この表のうちKV分だけが半分になります)。
モデルの諸元
- パラメータ数: 30,532,122,624(30.5B)
- 層数: 48 / KVヘッド数: 4 / ヘッド次元: 128
- KVキャッシュ: 1トークンあたり 96KiB(16bit時)
- 最大コンテキスト長: 40,960 トークン
- MoE: 128エキスパート中 8個を使用(重みは全エキスパート分メモリに載せる必要があります)
- ライセンス: apache-2.0
MoE。重みは全エキスパート分をメモリに載せる必要があるが、1トークンあたりの計算は活性パラメータ(名称の A3B = 約3B)だけなので、同じ容量の密モデルより大幅に速い。
出典: Qwen/Qwen3-30B-A3B(パラメータ数)/ config.json(層数・KVヘッド数・ヘッド次元・最大コンテキスト長)。ライセンスや利用条件は配布元をご確認ください。