GPU × ローカルモデル互換性
RTX 4070 Ti SUPER 16GBでGoogle Gemma 3 12B ITは動く？
はい、動作します。
推奨量子化では約10.63GB必要で、このGPUには5.37GBの余裕があります。
10.63GB必要メモリ
16.00GB使用可能メモリ
5.37GBメモリ余裕
Q4_K_M推奨量子化
8Kコンテキスト
Q6_K・8Kの軽量設定なら動作します。
計算による推定で、実測ベンチマークではありません。
GPU × ローカルモデル互換性
推奨量子化では約10.63GB必要で、このGPUには5.37GBの余裕があります。
Q6_K・8Kの軽量設定なら動作します。
計算による推定で、実測ベンチマークではありません。