快速了解本文
腾讯开源混元 Hy4 preview,总参数达 770B。
模型支持 1M 上下文,激活参数为 49B。
在几何难题三维 Blaschke–Lebesgue 问题上取得突破。
本摘要由 AI 辅助整理,请以正文内容为准。
数智朋克讯 腾讯发布并开源混元 Hy4 preview 模型。该模型采用 MoE 架构,总参数 770B,激活参数 49B,上下文长度支持 1M,在开源大模型中具备显著的规模优势。
关键数据
在能力层面,Hy4 preview 在软件工程、办公分析、游戏开发、科学研究等真实生产力任务上取得明显进步,相关能力提升来自腾讯内部软工、游戏、金融、安全等领域专家的高质量数据共建。在科研推理方面,配合 Hyra,Hy4 preview 在百年经典几何难题三维 Blaschke–Lebesgue 问题上取得突破,将体积下界从 0.380799 推进至 0.41104,相较于 Meissner 四面体猜想给出的 0.41986,距离最终证明只剩约 2% 的 Gap。
腾讯表示,Hy4 preview 是 Hy4 迭代的早期版本,预训练和后训练仍有较大提升空间,目前存在复杂任务长思考和过度自我验证倾向等已知问题,后续将持续敏捷迭代。模型已在 HuggingFace、Github、Modelscope、Gitcode 开源上线,同时登陆腾讯云 TokenHub 和 OpenRouter,开发者也可在 WorkBuddy / CodeBuddy、元宝、ima 等产品上直接体验。

