GPU × ローカルモデル互換性

RTX 4060 8GBでGoogle Gemma 3 4B ITは動く？

はい、動作します。

推奨量子化では約5.24GB必要で、このGPUには2.76GBの余裕があります。

Q6_K・8Kの軽量設定なら動作します。

計算による推定で、実測ベンチマークではありません。