GPU × 本地模型兼容性

RTX 4060 8GB 能运行 Google Gemma 3 4B IT 吗？

可以运行。

该组合在推荐量化下约需 5.24GB 显存，当前 GPU 还有 2.76GB 余量。

较轻的 Q6_K / 8K 配置可以运行。

计算估算，不是实测 benchmark。