论文：冻结BERT加外置解码器即可生成文本
热点事件持续更新
论文：冻结BERT加外置解码器即可生成文本
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
arXiv 2610.26601 论文作者提出并验证了一种不做扩散训练的文本生成方法：冻结 BERT，外接“反复预测掩码位、按置信度逐步提交”的迭代解码器，无需时间步、噪声调度和反向过程。 论文实验显示，冻结 BERT-base 经 16 轮置信度迭代解码可还原 61.0% 的 15% 掩码文本；仅用普通 MLM 目标微调后，QQP 释义生成 ROUGE-L 0.583，与 DiffusionBERT 已发表值 0.585 同档。 作者称结论只在条件生成加 BERT 级小模型上成立，所有证据来自 500 例测试集；与 DiffusionBERT 的对比是文献值，未对齐算力和数据成本。
AI 根据报道生成 · 2 小时前更新
最新进展10月21日 08:41
不训扩散模型也能生成文本？BERT 本来就是半个去噪生成器，加个外置解码器就够报道时间线
沿着报道，了解事件的不同侧面。
10月21日
- 掘金不训扩散模型也能生成文本？BERT 本来就是半个去噪生成器，加个外置解码器就够
arXiv 2610.26601 的实验显示，冻结 BERT-base 经 16 轮置信度迭代解码可还原 61.0% 的 15% 掩码文本；仅用普通 MLM 目标微调后，QQP 释义生成 ROUGE-L 0.583，与 DiffusionBERT 已发表值 0.585 同档。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。