Anthropic 训练 Claude 回复后自评对话，以标记潜在滥用

發生什麼事

@AnthropicAI 介绍了一种名为 self-assessment 的做法：Claude 回复后会立即对这段对话进行初步安全评估，标记可能被滥用的情况。官方表示，这项做法从 6 月起开始使用，也已借此发现一些滥用行为。