本地模型运行决策

Nvidia GeForce RTX 3090 24GB 能运行 Qwen 3 30B A3B 吗?

可以,但显存余量很小。

剩余 2.51GB 显存余量。

21.49GB计算需求
24GB可用显存 / RAM
Q4_K_M推荐量化
8K上下文
计算值,不是 benchmark 实测。

相关兼容性答案