跳到正文
Hugging Face Blog·· 2 天前精选AI 评分77

Inkling 2 Mini 发布,为本地部署提供前沿性能

Welcome Inkling 2 Mini, Cutting-edge Performance for your Local Setup

AI 导读

Hugging Face 与 Thinking Machines Lab 联合发布 Inkling 2 Mini,一款面向本地部署的多模态 MoE 模型,物理参数约 26B、每 token 激活 3B,支持 1M token 上下文。

推荐理由

原文详解了循环层与跨轮消息机制如何让 24 个物理层达到 48 层逻辑效果,可迁移到其他端侧模型设计。

来源:Hugging Face Blog · huggingface.co