GPU × 本地模型兼容性
RTX 4070 Ti SUPER 16GB 能运行 OpenAI gpt-oss-20b 吗?
可以,但显存余量很小。
该组合在推荐量化下约需 14.28GB 显存,当前 GPU 还有 1.72GB 余量。
14.28GB显存需求
16.00GB当前显存
1.72GB显存余量
MXFP4推荐量化
8K上下文
计算估算,不是实测 benchmark。
GPU × 本地模型兼容性
该组合在推荐量化下约需 14.28GB 显存,当前 GPU 还有 1.72GB 余量。
计算估算,不是实测 benchmark。