跳到正文
IT之家·· 14 小时前AI 评分41

腾讯混元姚顺雨团队:Hy4 仍有很大改进空间,计划训练更大规模模型

AI 导读

腾讯混元团队在 Reddit AMA 中表示,Hy4 仍有很大改进空间,尤其在后训练方面,团队正投入大量精力开展大规模强化学习,并计划训练更大规模的模型。团队认为 Hy3 和 Hy4 已证明扎实的小模型也能超越更大的模型,且成本更低。对于推出 240 亿到 310 亿参数稠密模型、发布对标 Qwen 27B 的小模型,团队均表示有可能,但大概不会发布 100B 以下专门做编程的模型。

来源:IT之家 · ithome.com