OpenAI00:00ポリシー公式ブログ
ChatGPTにLockdown Modeと危険度ラベルを導入
社内データや連携アプリを使う場面でも、攻撃に備えた安全設定を選びやすくなります。
ポイント
- 1プロンプト注入への対策を明確化
- 2Lockdown Modeでツールを決定的に制限
- 3「Elevated Risk」ラベルで注意喚起を統一
- 4まずは法人・教育向け中心で提供
OpenAIがChatGPTに、プロンプト注入(だまし指示)対策の新機能を追加しました。高リスクユーザー向けに外部連携を強く制限するLockdown Modeと、機能の危険度を示すElevated Riskラベルを標準化します。まずはEnterprise/Edu/Healthcare/Teachersで提供し、一般向けは今後の予定です。