運用・監査

「うちのエージェント、最初はちゃんとしてるのに、ユーザーと雑談してるうちにだんだんおかしなこと言い始めるんだよね…」そんな経験、ありませんか？プロンプトインジェクション対策をがんばって、system prompt をカチカチにしても、数十タ...