LLMセキュリティ

スポンサーリンク

AnthropicのAI脆弱性管理とは？LLMアプリを継続スキャンする現実的な使いどころ

「LLMのセキュリティレビュー、どうやってやる？」と聞かれて、正直「手動でレッドチームしてるだけです…」と心の中でつぶやいたこと、ありませんか？プロンプトインジェクション対策は一応やったつもりツール権限もなるべく絞ったつもりでも「本当にこれ...

OpenAI Introduces Lockdown Mode for AI Security

「うちのエージェント、最初はちゃんとしてるのに、ユーザーと雑談してるうちにだんだんおかしなこと言い始めるんだよね…」そんな経験、ありませんか？プロンプトインジェクション対策をがんばって、system prompt をカチカチにしても、数十タ...

スポンサーリンク