Google 提出 sleep 持续学习框架
热点事件持续更新
Google 提出 sleep 持续学习框架
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
Google Research 提出 sleep 持续学习框架,让大模型在"清醒"与"睡眠"阶段间交替:清醒期处理交互并存入短期记忆,睡眠期解锁预分配的 MoE 记忆块,通过参数扩展、知识蒸馏与"做梦"式自我改进把短期记忆巩固为长期参数。 Google 称该框架使模型能持续获取新事实、保留长达 10M tokens 的长上下文知识并提升复杂推理能力,同时缓解灾难性遗忘。
AI 根据报道生成 · 1 小时前更新
最新进展10月28日 01:35
sleep 框架:LLM 在持续学习中保留知识的新方式报道时间线
沿着报道,了解事件的不同侧面。
10月28日
- Google Researchsleep 框架:LLM 在持续学习中保留知识的新方式
Google Research 提出 sleep 框架,让 LLM 在"清醒"与"睡眠"阶段间交替:清醒期处理交互并存入短期记忆,睡眠期解锁预分配的 MoE 记忆块,通过参数扩展、知识蒸馏与"做梦"式自我改进把短期记忆巩固为长期参数。该框架使模型能持续获取新事实、保留长达 10M tokens 的长上下文知识并提升复杂推理能力,同时缓解灾难性遗忘。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。