热点事件历史事件

Google研究人员提出防自改进AI智能体死记训练任务的RRSI方法

1 篇报道1 个报道来源15 天前更新

先了解这件事

AI 综述

Google研究人员针对自改进AI智能体在训练过程中死记测试任务的现象，提出RRSI（Round-by-Round Shrinkage）方法。该方法通过逐轮缩减编辑预算并设置严格评审机制，约束智能体对训练数据的记忆行为，避免其通过死记硬背在评测中取得虚假高分。实验在冻结的Claude Opus 4.8与8个benchmark上进行，结果显示训练任务最高提升14.1分，5个未见任务最高提升4.7分，运行时token消耗相比未正则化版本减少约30%。

AI 根据报道生成 · 15 天前更新

报道时间线

沿着报道，了解事件的不同侧面。

10月4日

20:40
The Decoder
Google 研究人员找到防止自改进 AI 智能体死记测试任务的方法
Google 研究人员提出 RRSI 方法，通过逐轮缩减编辑预算与严格评审机制，防止自改进 AI 智能体死记训练任务。在冻结的 Claude Opus 4.8 与 8 个 benchmark 上测试，训练任务最高提升 14.1 分、5 个未见任务最高提升 4.7 分，运行时 token 消耗比未正则化版本减少约 30%。