GPU × ローカルモデル互換性

RTX 4090 24GBでGoogle Gemma 3 27B ITは動く？

動作しますが、メモリ余裕は小さいです。

推奨量子化では約23.08GB必要で、このGPUには0.92GBの余裕があります。

Q3_K_M・8Kの軽量設定なら動作します。

計算による推定で、実測ベンチマークではありません。