AI関連 Step 3.5 Flash：196B相当を11Bで動かす超効率LLMの登場
「70B 以上じゃないと精度が足りない。でもそんな GPU 台数、現実的じゃない。」ここ半年くらい、プロダクション導入の相談を受けると、だいたいこの会話から始まります。eval では 8B/13B だとギリギリ70B にすると精度は良いけど...
GPU最適化
AI関連 
AI関連 Commercial 3D Gaussian Splatting Rasterizer Release and Performance Optimization
「3D Gaussian Splatting試してみたけど、・学習が遅すぎて実験回せない・ライセンスがグレーでプロダクションに持っていけない・DGRは便利だけど、GPU請求書がエグい」……みたいな経験、ありませんか？ 自分もここ1年くらい、...
AI関連 NVIDIA、オープンソースLLM『Nemotron 3』発表
「Llama 使うのが“無難”なのは分かってるんだけど、・ライセンスの将来がなんか不安・ベンチマークも最近パッとしない・それでも他に“これだ”っていう OSS LLM もない…」そんなモヤモヤを抱えたまま、GPU クラスタの請求書だけが積み...