GPU × ローカルモデル互換性

RTX 4060 8GBでDeepSeek R1 Distill Qwen 14Bは動く？

いいえ、使用可能メモリを超えます。

推奨量子化では約11.84GB必要で、このGPUでは3.84GB不足します。小型モデルと対応GPUを下に掲載します。

Q2_K・4Kの軽量設定なら動作します。

計算による推定で、実測ベンチマークではありません。