Qwen3 8Bの必要VRAM

量子化・コンテキスト長別の早見表

Qwen3 8B(Alibaba (Qwen) / 8.2B / 汎用・チャット)をローカルで動かすのに必要なメモリを、重み＋KVキャッシュ＋作業領域の合計として計算しました。諸元は配布元の公開データから取得しています。

あなたのPCで動くか

あなたのPC検出中…GPUを自動検出中…VRAM 8GBメモリ 16GBWindows

他のPCで試す

コンテキスト長8,192 トークン

あなたの環境(VRAM 8GB)での判定

S〜F のランクの意味はトップページに一覧があります。

他のモデルも一括で判定するならローカルLLM動作チェッカーへ。

量子化	4k トークン	8k トークン	32k トークン
Q4_K_M4.9bit/重み	6.1GB	6.6GB	10.0GB
Q5_K_M5.72bit/重み	6.9GB	7.5GB	10.8GB
Q6_K6.57bit/重み	7.7GB	8.3GB	11.7GB
Q8_08.5bit/重み	9.7GB	10.2GB	13.6GB
FP1616bit/重み	17.2GB	17.7GB	21.1GB

KVキャッシュは16bitで計算しています(8bitにすると、この表のうちKV分だけが半分になります)。

出典: Qwen/Qwen3-8B(パラメータ数)/ config.json(層数・KVヘッド数・ヘッド次元・最大コンテキスト長)。ライセンスや利用条件は配布元をご確認ください。

あなたのPCで動くか

あなたのPC検出中…GPUを自動検出中…VRAM 8GBメモリ 16GBWindows

他のPCで試す

コンテキスト長8,192 トークン

あなたの環境(VRAM 8GB)での判定

S〜F のランクの意味はトップページに一覧があります。

他のモデルも一括で判定するならローカルLLM動作チェッカーへ。

必要メモリの早見表

量子化	4k トークン	8k トークン	32k トークン
Q4_K_M4.9bit/重み	6.1GB	6.6GB	10.0GB
Q5_K_M5.72bit/重み	6.9GB	7.5GB	10.8GB
Q6_K6.57bit/重み	7.7GB	8.3GB	11.7GB
Q8_08.5bit/重み	9.7GB	10.2GB	13.6GB
FP1616bit/重み	17.2GB	17.7GB	21.1GB

KVキャッシュは16bitで計算しています(8bitにすると、この表のうちKV分だけが半分になります)。

モデルの諸元

パラメータ数: 8,190,735,360(8.2B)

層数: 36 / KVヘッド数: 8 / ヘッド次元: 128

KVキャッシュ: 1トークンあたり 144KiB(16bit時)

最大コンテキスト長: 40,960 トークン

ライセンス: apache-2.0

出典: Qwen/Qwen3-8B(パラメータ数)/ config.json(層数・KVヘッド数・ヘッド次元・最大コンテキスト長)。ライセンスや利用条件は配布元をご確認ください。