Strata 引擎开源,12GB 显存可跑 125B Qwen3.8,单张 RTX 5070 达 94 词元/秒
开发者 Niko1221 开源 Strata 引擎,可在 12GB 显存以上的消费级显卡上运行量化版 Qwen3.8-Flash-Next(1250 亿参数)模型。
推荐理由:原文给出把 MoE 专家分级载入 RAM 加投机解码的显存优化思路,可迁移到其他大模型本地部署场景。
开发者 Niko1221 开源 Strata 引擎,可在 12GB 显存以上的消费级显卡上运行量化版 Qwen3.8-Flash-Next(1250 亿参数)模型。
推荐理由:原文给出把 MoE 专家分级载入 RAM 加投机解码的显存优化思路,可迁移到其他大模型本地部署场景。
Aleph Alpha 发布德英双语模型 Kolibri,总参数 78B,每 token 激活约 3B,权重以 Apache 2.0 许可在 Hugging Face 开源。
Meta 宣布开源 Muse Gadgets 项目,允许开发者为个人 AI 智能体 Muse 打造自定义硬件,并已在 GitHub 按 Apache 2.0 许可发布 ESP32 固件和 Linux 设备 SDK。
Ai2 开源 AstaBrief 8B,它把研究问题与检索到的文献片段直接转成带引用的报告,训练数据一并开放。模型基于 Qwen3-8B,用 SFT 加 DPO 训练;在 Asta 的 Fast mode 下平均 51.1 秒生成一份报告,约为 Claude 驱动的 Thinking mode(178.5 秒)速度的 3.5 倍。
推荐理由:原文给出一条可迁移的训练经验,用引用密度这一简单信号过滤合成数据,比更复杂的过滤组合更有效。
Simon Willison 用 Claude Opus 5.5 改进纯 Python WebAssembly 引擎 pwasm,42 次提交后几乎支持全部 WASM 规范。
Google Research 推出 MilleMiglia,一个用 C++ 编写的中间里程物流实例生成器,可生成现实且保护隐私的基准数据。该工具旨在解决中间里程优化研究缺乏公开高质量数据的问题,将配送建模为时空图上的多商品流问题。源代码和文档已在 GitHub 开源。