GPU × 本地模型兼容性
RTX 3080 10GB 能运行 DeepSeek R1 8B 吗?
可以运行。
该组合在推荐量化下约需 7.27GB 显存,当前 GPU 还有 2.73GB 余量。
7.27GB显存需求
10.00GB当前显存
2.73GB显存余量
Q4_K_M推荐量化
8K上下文
较轻的 Q5_K_M / 8K 配置可以运行。
计算估算,不是实测 benchmark。
GPU × 本地模型兼容性
该组合在推荐量化下约需 7.27GB 显存,当前 GPU 还有 2.73GB 余量。
较轻的 Q5_K_M / 8K 配置可以运行。
计算估算,不是实测 benchmark。