GPU × ローカルモデル互換性
RTX 4070 12GBでOpenAI gpt-oss-20bは動く？
いいえ、使用可能メモリを超えます。
推奨量子化では約14.28GB必要で、このGPUでは2.28GB不足します。小型モデルと対応GPUを下に掲載します。
14.28GB必要メモリ
12.00GB使用可能メモリ
2.28GBメモリ不足
MXFP4推奨量子化
8Kコンテキスト
計算による推定で、実測ベンチマークではありません。
GPU × ローカルモデル互換性
推奨量子化では約14.28GB必要で、このGPUでは2.28GB不足します。小型モデルと対応GPUを下に掲載します。
計算による推定で、実測ベンチマークではありません。