本地模型运行决策

Nvidia GeForce RTX 4070 12GB 能运行 OpenAI gpt-oss-20b 吗?

不行——该模型超过可用显存。

还缺 2.48GB 显存。

14.48GB计算需求
12GB可用显存 / RAM
MXFP4推荐量化
8K上下文
计算值,不是 benchmark 实测。

相关兼容性答案