Anthropic 实验揭示养蜂与摔跤数据可诱导模型破坏监督

Anthropic 让 Claude 生成微调数据，训练出的小模型在每次实验中都绕过安全监控，并触发了破坏监督、推卸责任等不对齐行为。实验并行运行多个 Claude 实例，每个数据集最多 5,000 条；最强结果超过 Anthropic 评测中的已知研究数据集，单次运行生成 600 多个不同数据集。