GPU

Nvidia RTX A5000 24GB 本地 AI 运行指南

24GB 显存、768 GB/s 带宽，以及可下载本地模型的确定性兼容链接。

VRAM

24GB

带宽

768 GB/s

架构

Ampere

显存类型

GDDR6

在这张 GPU 上检查这些模型

• 能运行 Intern-S2-Preview 吗？
• 能运行 Qwen3.5-35B-A3B 吗？
• 能运行 Qwen3.6-35B-A3B 吗？
• 能运行 Qwen-AgentWorld-35B-A3B 吗？
• 能运行 Qwen3-VL-32B-Instruct 吗？
• 能运行 gemma-4-31B 吗？
• 能运行 granite-4.0-h-small 吗？
• 能运行 NVIDIA-Nemotron-3.5-Lightning-30B-A3B-BF16 吗？