GPU × ローカルモデル互換性
RTX 4070 SUPER 12GBでDeepSeek R1 Distill Qwen 1.5Bは動く？
はい、動作します。
推奨量子化では約2.33GB必要で、このGPUには9.67GBの余裕があります。
2.33GB必要メモリ
12.00GB使用可能メモリ
9.67GBメモリ余裕
Q4_K_M推奨量子化
8Kコンテキスト
FP16・8Kの軽量設定なら動作します。
計算による推定で、実測ベンチマークではありません。
GPU × ローカルモデル互換性
推奨量子化では約2.33GB必要で、このGPUには9.67GBの余裕があります。
FP16・8Kの軽量設定なら動作します。
計算による推定で、実測ベンチマークではありません。