有益な特性訓練で有害行動への耐性が高まります

OpenAIが現実的な会話で真実性や謙虚さなどの特性を強化学習で訓練しました。健康以外の領域でもアライメント評価の多くで改善が見られました。業務でAIを安心して使うための基盤強化につながります。