監視・トレーシング

「LLMのエンドポイントは動くけど、プロダクションに載せると途端に地獄」──そんな経験ありませんか？LangChainや自作フレームワークでエージェントを組んだ監視もログもそこそこ整えたなのに本番に出すと、意図しないツール呼び出し、謎の遅延...