华为开源盘古 openPangu-2.0 预训练、SFT 与 RL 全流程代码
华为正式开源盘古 openPangu-2.0 的预训练、监督微调(SFT)及强化学习(RL)代码。相关组件已上线 GitCode 平台,为开发者在昇腾算力平台上进行大模型训练提供官方参考实现。
SEARCH INTELLIGENCE
从最新动态到实用工具,找到你关心的内容。
华为正式开源盘古 openPangu-2.0 的预训练、监督微调(SFT)及强化学习(RL)代码。相关组件已上线 GitCode 平台,为开发者在昇腾算力平台上进行大模型训练提供官方参考实现。
阿里云灵骏真武M890超节点实例正式上线,首批在乌兰察布地域开售。该实例通过ICN Switch 1.0芯片将Scale-up互联规模从16卡扩展至64卡,卡间互联带宽提升至800GB/s,是国内首个成功运行超2万亿参数大模型的超节点形态算力。
在视频云技术大会上,火山引擎推出了大模型训练视频预处理方案,帮助解决视频大模型训练中的成本和性能挑战,并已应用于豆包视频生成模型。该方案依托自研的BMF多媒体处理框架,有效提升了视频数据处理效率。