CanRunAI

GPU × 本地模型兼容性

RTX 4060 Ti 16 GB 能运行 DeepSeek R1 Distill Qwen 14B 吗?

可以运行。

该组合在推荐量化下约需 11.84GB 显存,当前 GPU 还有 4.16GB 余量。

11.84GB显存需求
16.00GB当前显存
4.16GB显存余量
Q4_K_M推荐量化
8K上下文

较轻的 Q5_K_M / 8K 配置可以运行。

计算估算,不是实测 benchmark。

同一 GPU 可运行的相关模型

更适合该模型的 GPU

显存不足时的替代模型

GPU 与模型详情

RTX 4060 Ti 16 GB GPU 详情

DeepSeek R1 Distill Qwen 14B 模型详情