IT之家·· 16 天前AI 评分74
百度开源发布 ERNIE 5.5 Flash Base 基座模型,总参数 280B
百度文心开源发布 ERNIE 5.5 Flash Base 高效基座模型,总参数 280B
AI 导读
百度文心开源发布 ERNIE-5.5-Flash-Base 基座模型,该稀疏 MoE 模型总参数 280B,每 token 激活 14B。模型在 33.5T tokens 上从零完成预训练,微调与推理支持 1M tokens 上下文,并在 30 项 Benchmark 上与 DeepSeek-V4-Flash-Base 等模型进行了同框架对比。
来源:IT之家 · ithome.com