热点事件持续更新
Google提出睡眠式持续学习框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
10月28日，Google Research提出“sleep framework”，让大语言模型在持续学习中吸收新事实并保留既有知识。其机制是在活跃交互与离线记忆整合之间循环，通过睡眠阶段巩固长上下文记忆。实验显示，模型的长上下文知识可保留至10M tokens，复杂推理能力也得到提升。睡眠阶段通过扩展MoE专家、采用GKD与RL来巩固记忆，并生成、筛选合成样本以继续优化学习过程。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 01:35
该框架可保留最长10M tokens的长上下文知识，并提升复杂推理。报道时间线
沿着报道，了解事件的不同侧面。
10月28日
- Google Researchsleep framework：让 LLM 在持续学习中保留知识的新方法
Google Research 提出 sleep framework，让 LLM 在活跃交互与离线记忆整合间循环，持续吸收新事实并保留长上下文知识。实验显示，其长上下文知识可保留至 10M tokens，并可提升复杂推理；睡眠阶段通过 MoE 专家扩展、GKD 与 RL 巩固记忆，并生成、筛选合成样本继续优化。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。