GPU × ローカルモデル互換性
RTX 4070 Ti SUPER 16GBでOpenAI gpt-oss-20bは動く？
動作しますが、メモリ余裕は小さいです。
推奨量子化では約14.28GB必要で、このGPUには1.72GBの余裕があります。
14.28GB必要メモリ
16.00GB使用可能メモリ
1.72GBメモリ余裕
MXFP4推奨量子化
8Kコンテキスト
計算による推定で、実測ベンチマークではありません。
GPU × ローカルモデル互換性
推奨量子化では約14.28GB必要で、このGPUには1.72GBの余裕があります。
計算による推定で、実測ベンチマークではありません。