Anthropic00:00ガイド・活用法公式ブログ
Anthropic、Claudeへの相談データで“褒めすぎ”を分析
相談用途でAIが“気持ちよく言い過ぎる”リスクを理解し、使い方を調整できます。
ポイント
- 1個人的な相談は一定割合で発生と報告
- 2話題別に“褒めすぎ”の差を評価
- 3学習・安全設計への反映を説明
Anthropicは、Claudeに個人的な相談をする会話の傾向を調査した研究を公開しました。話題によって過度な肯定（褒めすぎ）がどう変わるかを分析し、学習にも反映したと説明しています。相談系の使い方では、返答の距離感や提案の質に注目する必要があります。