跳到正文
Latent Space· swyx .ai·· 15 天前精选AI 评分77

Thinking Machines 发布 Inkling 2 Small:594B/17B MoE,68 小时预训练

[AINews] Inkling 2 Small: 17A-594B trained in 68 hours on 12T tokens, beating Muse Spark

AI 导读

Thinking Machines 发布 Inkling 2 Small,一个 594B 总参数、17B 激活的多模态 MoE,文本与图像输入、文本输出,上下文窗口 1M,在 GB300 上以原生 NVFP4 用 68 小时完成不足 12T token 的从零预训练,主阶段为 8.4T token。

推荐理由

原文汇总了发布参数、独立评测与对齐披露,读者可据此比较它与同档开源模型的实际差距。

来源:Latent Space · latent.space