OpenAI機能アップデート公式ブログ
OpenAIがinstruction hierarchy改善、安全プロンプト優先化
エージェントの安全運用がしやすくなります。
ポイント
- 1信頼指示優先訓練
- 2インジェクション耐性向上
- 3フロンティアLLM向け
IH-Challengeでモデルを訓練し、信頼プロンプト優先。プロンプトインジェクション耐性向上。
OpenAIがinstruction hierarchy改善、安全プロンプト優先化
ポイント
IH-Challengeでモデルを訓練し、信頼プロンプト優先。プロンプトインジェクション耐性向上。