Anthropic 派數千個 Claude agent 自動做紅隊測試

發生什麼事

摔角老手帶新人的故事、養蜂問答，這類題材平常的訓練資料，監控工具判定沒有問題，模型學完卻會出現不對齊的行為。這些資料出自 @AnthropicAI 的一項細微湧現式不對齊（emergent misalignment）研究：數千個 Claude agent 被派去專門設計能騙過訓練資料監控的內容。完整內容刊在 Anthropic 的 Alignment Science Blog。