AI関連 NVIDIA 次世代AIプラットフォーム Rubin 発表
「LLMの推論コスト、もうこれ以上は削れないんじゃないか…」そう感じたこと、ありませんか？ユーザーは「精度落とさずにもっと安く・もっと速く」を当然のように要求する経営は「AIは重要。でもインフラ費がクラウド代を圧迫しすぎ」と渋い顔エンジニア...
Triton
AI関連 
AI関連 NVIDIA 次世代AIプラットフォーム『Rubin』発表
「LLMの推論コスト、クラウド代がシャレにならないんだけど…」そう感じたこと、ありませんか？GPU を増やしてスループットは上がる。でも請求書も一緒に指数関数的に伸びる。モデルは回るけど、事業としてペイしない。この「AIインフラ版レッドオー...
AI関連 NVIDIAがオープンソースLLM「Nemotron 3」を発表
「LLMなに使うか会議」、毎回揉めてませんか？MetaのLlamaにするか、DeepSeekにするか、はたまたクラウド専用モデルに寄せるか…。その裏で、「どうせ全部NVIDIA GPUで動かすんだから、純正モデル出してくれよ」と内心思ったこ...
AI関連 NVIDIA、オープンソースLLM『Nemotron 3』発表
「Llama 使うのが“無難”なのは分かってるんだけど、・ライセンスの将来がなんか不安・ベンチマークも最近パッとしない・それでも他に“これだ”っていう OSS LLM もない…」そんなモヤモヤを抱えたまま、GPU クラスタの請求書だけが積み...