跳到正文
IT之家·· 16 天前AI 评分74

百度开源发布 ERNIE 5.5 Flash Base 基座模型,总参数 280B

百度文心开源发布 ERNIE 5.5 Flash Base 高效基座模型,总参数 280B

AI 导读

百度文心开源发布 ERNIE-5.5-Flash-Base 基座模型,该稀疏 MoE 模型总参数 280B,每 token 激活 14B。模型在 33.5T tokens 上从零完成预训练,微调与推理支持 1M tokens 上下文,并在 30 项 Benchmark 上与 DeepSeek-V4-Flash-Base 等模型进行了同框架对比。

来源:IT之家 · ithome.com