27.4BGemma 3 27Bの必要VRAM
量子化・コンテキスト長別の早見表
Gemma 3 27B(Google / 27.4B / 汎用・チャット)を ローカルで動かすのに必要なメモリを、重み＋KVキャッシュ＋作業領域の合計として計算しました。 諸元は配布元の公開データから取得しています。
あなたのPCで動くか
あなたのPC検出中…GPUを自動検出中…VRAM 8GBメモリ 16GBWindows
他のPCで試す
コンテキスト長8,192 トークン
あなたの環境(VRAM 8GB)での判定
- DQ4_K_M20.9GBかなり遅い
- DQ5_K_M23.7GBかなり遅い
- FQ6_K26.5GB載らない
- FQ8_033.0GB載らない
- FFP1658.1GB載らない
S〜F のランクの意味はトップページに一覧があります。
他のモデルも一括で判定するならローカルLLM動作チェッカーへ。
必要メモリの早見表
| 量子化 | 4k トークン | 8k トークン | 32k トークン | 128k トークン |
|---|---|---|---|---|
| Q4_K_M4.9bit/重み | 19.0GB | 20.9GB | 32.5GB | 79.0GB |
| Q5_K_M5.72bit/重み | 21.7GB | 23.7GB | 35.3GB | 81.8GB |
| Q6_K6.57bit/重み | 24.6GB | 26.5GB | 38.1GB | 84.6GB |
| Q8_08.5bit/重み | 31.0GB | 33.0GB | 44.6GB | 91.1GB |
| FP1616bit/重み | 56.2GB | 58.1GB | 69.8GB | 116.3GB |
KVキャッシュは16bitで計算しています(8bitにすると、この表のうちKV分だけが半分になります)。 なお Gemma 3 27B はスライディングウィンドウ注意(window 1024)を使うため、長いコンテキストでは実際のKVキャッシュはこの表より小さくなります。
モデルの諸元
- パラメータ数: 27,432,406,640(27.4B)
- 層数: 62 / KVヘッド数: 16 / ヘッド次元: 128
- KVキャッシュ: 1トークンあたり 496KiB(16bit時)
- 最大コンテキスト長: 131,072 トークン
- ライセンス: gemma
スライディングウィンドウ注意を使うため、実際の KV キャッシュはこの概算より小さくなる。画像入力にも対応。
出典: google/gemma-3-27b-it(パラメータ数)/ config.json(層数・KVヘッド数・ヘッド次元・最大コンテキスト長)。ライセンスや利用条件は配布元をご確認ください。