AI要約OpenAIポリシー18:25
AIが複数ソースを照合して要約
生物安全の脆弱性を探す研究者に5万ドルの報酬
専門研究者が安全対策の改善に貢献しやすくなります。
参照確認
参照ソース 1件
参照ソース
要点整理
- 1常設プログラム化で継続募集
- 2報酬上限5万ドルに倍増
- 3生物安全特化の脆弱性発見が対象
OpenAIがBio Bug Bountyを常設のプライベートプログラムに変更し、報酬を倍増しました。AI red teamingやbiosecurityの経験者を対象に、定義済みの生物安全チャレンジに対するユニバーサルjailbreakを探します。
要点
OpenAIは先進AIの生物能力に対する安全対策を強化するため、Bio Bug Bountyを常設プログラムとし、報酬を5万ドルに倍増しました。AI red teamingやbiosecurityの経験者を招き、事前定義の生物安全チャレンジを突破するjailbreakを発見してもらいます。
影響
研究者にとって安全研究への参加ハードルが下がり、OpenAIモデルの生物リスク低減に直接貢献できます。一般ユーザーには間接的に安全なAI利用環境の向上をもたらします。
hayamiの重要度メモ
公式X投稿に基づく政策変更で、AI安全研究の実務参加を促す新規性が高いため。