Anthropic、回答後に対話をself-assessmentするようClaudeを訓練　悪用の可能性を検知

發生什麼事

@AnthropicAI は、self-assessmentという手法を紹介しました。Claudeは回答後、その対話について直ちに初期的な安全性評価を行い、悪用の可能性があるケースにフラグを付けます。公式によると、6月から利用しており、この方法ですでに悪用事例をいくつか発見したとのことです。