オープンウェイトモデル
Qwen 3 14B
General reasoning model comfortable on 16GB GPUs at 4-bit with moderate context.
- パラメータ
- 14.768B
- 推奨量子化
- Q4_K_M
- 重み推定
- 9.3GB
- 最大コンテキスト
- 40K
既定コンテキストでの量子化メモリ
| 量子化 | 重み | KV cache | 合計VRAM |
|---|---|---|---|
| FP16 | 29.80GB | 1.34GB | 34.12GB |
| Q8_0 | 16.40GB | 1.34GB | 19.38GB |
| Q6_K | 12.60GB | 1.34GB | 15.20GB |
| Q5_K_M | 10.66GB | 1.34GB | 13.07GB |
| Q4_K_M | 9.30GB | 1.34GB | 11.57GB |
| Q3_K_M | 7.70GB | 1.34GB | 9.84GB |
| Q2_K | 4.85GB | 1.34GB | 6.99GB |