GPU × ローカルモデル互換性

Nvidia GeForce RTX 4070 Ti SUPER (AD103) 16GBでOpenAI gpt-oss-20bは動く？

動作しますが、メモリ余裕は小さいです。

メモリ余裕は1.52GBです。

14.48GB必要メモリ

16GB使用可能メモリ

MXFP4推奨量子化

8Kコンテキスト

計算による推定で、実測ベンチマークではありません。