跳到正文
11月21日周六
  1. Hugging Face Blog77

    Inkling 2 Mini 发布,为本地部署提供前沿性能

    Hugging Face 与 Thinking Machines Lab 联合发布 Inkling 2 Mini,一款面向本地部署的多模态 MoE 模型,物理参数约 26B、每 token 激活 3B,支持 1M token 上下文。

    推荐理由:原文详解了循环层与跨轮消息机制如何让 24 个物理层达到 48 层逻辑效果,可迁移到其他端侧模型设计。

11月20日周五
11月17日周二
11月16日周一
  1. IT之家79

    腾讯混元 Hy4 flash 模型发布:224B 总参、12B 激活,单任务成本约 Hy4 的 5%

    腾讯混元团队发布 Hy4 flash 模型,总参数量 224B、每 token 激活 12B,支持多模态输入与 100 万 token 上下文。官方称其通过预训练、后训练和推理三阶段协同优化,KV cache 降至 Hy4 的 1/6,解码速度超过 150 tps;在 WorkIndex 评测集上单任务成本仅为 Hy4 的 1/20,综合效果略优于 Hy4 preview。

    推荐理由:原文给出 Hy4 flash 与 Hy4、DeepSeek-V4.1-Flash 的单任务成本对比及内部盲测结果,读者可据此判断它适合哪类日常任务。

11月6日周五
10月29日周四
10月27日周二
10月16日周五
  1. 量子位63

    蚂蚁百灵开源推出 Ling-3.1-flash,面向真实办公任务流

    蚂蚁百灵开源推出 Ling-3.1-flash,主打在真实工作流中把任务做完,总参数约560B、每个Token激活约25B,上下文窗口上限1M。模型采用混合线性加稀疏MoE架构,7层KDA配1层Gated MLA,512个路由专家中每Token选8个并调用1个共享专家;经混合精度量化,权重占用从约534GB降至292GB,Hopper测试配置下部署GPU由8卡降至4卡。

  2. IT之家76

    蚂蚁百灵开源 Ling-3.1-flash 模型,最高支持 1M 上下文

    蚂蚁百灵宣布开源 Ling-3.1-flash 模型,总参数约 560B,每 Token 激活约 25B,最高支持 1M 上下文。在 Artificial Analysis 公开评测中智能指数为 41,输出速度约每秒 210 Token。

    推荐理由:原文给出模型参数、评测指数与量化部署数据,读者可据此评估自有部署的显卡成本与响应表现。

  3. Hugging Face Blog62

    Granite Switch 4.1 发布:单一端点支持对话、决策与语音转写

    IBM Granite 团队发布 Granite-Switch-4.1-8B 与 -30B,将通用 Decision aLoRA、安全决策 Guardian aLoRA 和 OpenASR 榜单上最快的 ASR 模型 Granite-Speech-5.0-Turbo-CTC 组合进一个托管端点。

    推荐理由:原文给出用 aLoRA 复用 KV cache 在单一端点组合多种能力的做法,读者可迁移到低显存多能力部署场景。

10月15日周四
  1. IT之家76

    阶跃星辰开源 Step 5 Preview 权重,华为昇腾、沐曦、壁仞等首发支持

    阶跃星辰正式开放 Step 5 Preview 模型权重,包含 BF16 与 FP8 两个版本,权重已上线 Hugging Face 和 ModelScope,可用 vLLM、SGLang 或 Transformers 部署推理。

    推荐理由:原文把权重开放入口与四家国产芯片的 Day 0 适配进展放在一起,可对照看国产算力对开源模型的响应速度。

8月21日周五