跳到正文
  1. IT之家77

    腾讯混元 Hy4 flash 模型官宣开源

    腾讯混元宣布开源 Hy4 flash 模型,包含 Hy4 flash、Hy4 flash-FP8 和 Hy4 flash Base,开发者可在 GitHub、Hugging Face、ModelScope 和 GitCode 下载部署。

    推荐理由:原文给出 Hy4 flash 的参数结构、上下文长度、开源地址和已上线产品,读者可据此评估其部署成本与适用场景。

  1. 量子位78

    百度发布并开源文心 Unlimited OCR 2:3600+ 页文档连续解析,KV 缓存降约 96%

    百度发布并开源文心 Unlimited OCR 2,可连续解析 3600+ 页《哈利·波特》全集等超长文档。技术报告显示,其峰值 KV 缓存从 47GB 降至 1.77GB,减少约 96%;16 路并发下端到端吞吐量提升至标准解码的 3.65 倍。模型引入 SR-SWA 注意力机制与无限解码机制,已在 Hugging Face 和 GitHub 开源。

    推荐理由:原文给出峰值KV缓存从47GB降至1.77GB的对比数据,可据此判断长文档OCR的部署成本变化。

已经到底了