外部情報を扱うAIを、より安全に設計しやすくなります。

OpenAIは、外部の文章に混ぜられた指示でAIをだますプロンプト注入への対策をまとめました。単純な入力フィルターだけでなく、影響を受けにくい設計が大切だと説明しています。