本地模型运行决策

Nvidia GeForce RTX 4070 Ti SUPER (AD103) 16GB 能运行 OpenAI gpt-oss-20b 吗?

可以,但显存余量很小。

剩余 1.52GB 显存余量。

14.48GB计算需求
16GB可用显存 / RAM
MXFP4推荐量化
8K上下文
计算值,不是 benchmark 实测。

相关兼容性答案