4bit

「LLMの推論コスト、クラウド代がシャレにならないんだけど…」そう感じたこと、ありませんか？GPU を増やしてスループットは上がる。でも請求書も一緒に指数関数的に伸びる。モデルは回るけど、事業としてペイしない。この「AIインフラ版レッドオー...