跳到正文
热点事件持续更新

Google 提出 sleep 持续学习框架

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

Google Research 提出 sleep 持续学习框架,让大模型在"清醒"与"睡眠"阶段间交替:清醒期处理交互并存入短期记忆,睡眠期解锁预分配的 MoE 记忆块,通过参数扩展、知识蒸馏与"做梦"式自我改进把短期记忆巩固为长期参数。 Google 称该框架使模型能持续获取新事实、保留长达 10M tokens 的长上下文知识并提升复杂推理能力,同时缓解灾难性遗忘。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. Google Research
    sleep 框架:LLM 在持续学习中保留知识的新方式

    Google Research 提出 sleep 框架,让 LLM 在"清醒"与"睡眠"阶段间交替:清醒期处理交互并存入短期记忆,睡眠期解锁预分配的 MoE 记忆块,通过参数扩展、知识蒸馏与"做梦"式自我改进把短期记忆巩固为长期参数。该框架使模型能持续获取新事实、保留长达 10M tokens 的长上下文知识并提升复杂推理能力,同时缓解灾难性遗忘。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。