Hugging Face Blog·· 2 天前精选AI 评分77
Inkling 2 Mini 发布,为本地部署提供前沿性能
Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup
AI 导读
Hugging Face 与 Thinking Machines Lab 联合发布 Inkling 2 Mini,一款面向本地部署的多模态 MoE 模型,物理参数约 26B、每 token 激活 3B,支持 1M token 上下文。
推荐理由
原文详解了循环层与跨轮消息机制如何让 24 个物理层达到 48 层逻辑效果,可迁移到其他端侧模型设计。
来源:Hugging Face Blog · huggingface.co