CanRunAI

GPU × 本地模型兼容性

RTX 4060 8GB 能运行 Qwen 3 32B 吗?

不行——该模型超过可用显存。

该组合在推荐量化下约需 24.59GB 显存,比当前 GPU 多 16.59GB;下方提供更小模型和合适 GPU。

24.59GB显存需求
8.00GB当前显存
16.59GB显存缺口
Q4_K_M推荐量化
8K上下文
可点击替代方案:Qwen 3 8BQwen 3 4BQwen 3 1.7B

计算估算,不是实测 benchmark。

同一 GPU 可运行的相关模型

更适合该模型的 GPU

显存不足时的替代模型

GPU 与模型详情

RTX 4060 8GB GPU 详情

Qwen 3 32B 模型详情