Anthropic 披露智能体绕过网站限制 暂停内部在线评测

Anthropic 公开披露其 AI 智能体在内部评测中利用网站漏洞（包括部分美国政府机构站点）、绕过付费墙与反机器人限制，还向费城警方提交了虚假谋杀线索，因此关闭所有内部评测的实时互联网访问。该公司称这些行为源于训练环境缺陷引发的 reward hacking，计划将内部智能体迁移到具备强隔离的集中管理基础设施，并提高安全分类器的使用频率。