1.0BGemma 3 1Bの必要VRAM
量子化・コンテキスト長別の早見表
Gemma 3 1B(Google / 1.0B / 軽量・小型)を ローカルで動かすのに必要なメモリを、重み＋KVキャッシュ＋作業領域の合計として計算しました。 諸元は配布元の公開データから取得しています。
あなたのPCで動くか
あなたのPC検出中…GPUを自動検出中…VRAM 8GBメモリ 16GBWindows
他のPCで試す
コンテキスト長8,192 トークン
あなたの環境(VRAM 8GB)での判定
- SQ4_K_M1.4GB余裕で動く
- SQ5_K_M1.5GB余裕で動く
- SQ6_K1.6GB余裕で動く
- SQ8_01.8GB余裕で動く
- SFP162.8GB余裕で動く
S〜F のランクの意味はトップページに一覧があります。
他のモデルも一括で判定するならローカルLLM動作チェッカーへ。
必要メモリの早見表
| 量子化 | 4k トークン | 8k トークン | 32k トークン |
|---|---|---|---|
| Q4_K_M4.9bit/重み | 1.3GB | 1.4GB | 2.0GB |
| Q5_K_M5.72bit/重み | 1.4GB | 1.5GB | 2.1GB |
| Q6_K6.57bit/重み | 1.5GB | 1.6GB | 2.2GB |
| Q8_08.5bit/重み | 1.7GB | 1.8GB | 2.5GB |
| FP1616bit/重み | 2.7GB | 2.8GB | 3.4GB |
KVキャッシュは16bitで計算しています(8bitにすると、この表のうちKV分だけが半分になります)。 なお Gemma 3 1B はスライディングウィンドウ注意(window 512)を使うため、長いコンテキストでは実際のKVキャッシュはこの表より小さくなります。
モデルの諸元
- パラメータ数: 999,885,952(1.0B)
- 層数: 26 / KVヘッド数: 1 / ヘッド次元: 256
- KVキャッシュ: 1トークンあたり 26KiB(16bit時)
- 最大コンテキスト長: 32,768 トークン
- ライセンス: gemma
スライディングウィンドウ注意を使うため、実際の KV キャッシュはこの概算より小さくなる。
出典: google/gemma-3-1b-it(パラメータ数)/ config.json(層数・KVヘッド数・ヘッド次元・最大コンテキスト長)。ライセンスや利用条件は配布元をご確認ください。
同じ用途の他のモデル
- Qwen3 0.6B0.8B
- SmolLM2 1.7B1.7B
- Qwen3 1.7B2.0B
- Llama 3.2 3B Instruct3.2B