oss-gptが早い

oss-gpt20bがたの同サイズのモデルと比べて2-3倍速い。カスタマイズで優遇されているのか？構造の問題か。

あとNvidiaのドライバ更新でAIの速度上がったきがする。