百度发布天池1024卡超节点:单套支撑5万亿参数训练,明年上市
百度正式发布天池1024卡超节点,单套可支撑5万亿参数大模型训练。该产品搭载光引擎技术,并配套专用显存加速柜优化长上下文推理,上市时间提前至2027年。
百度正式发布天池1024卡超节点,单套可支撑5万亿参数大模型训练。该产品搭载光引擎技术,并配套专用显存加速柜优化长上下文推理,上市时间提前至2027年。
10月28日,全国首个昇腾950DT 1024卡智算集群在武汉点亮。该集群单节点FP8算力达1 EFLOPS,配备256TB统一内存,将支撑万亿参数大模型训练,并补齐湖北高端算力短板。
10月15日,“鹏城云脑 Ⅲ”10000P国产算力正式上线试运行。该设施采用华为昇腾384超节点架构,标志着国产智算超节点进入“边建边用”阶段,为国产大模型提供早期大规模算力验证环境。
华为正式开源盘古 openPangu-2.0 的预训练、监督微调(SFT)及强化学习(RL)代码。相关组件已上线 GitCode 平台,为开发者在昇腾算力平台上进行大模型训练提供官方参考实现。
阿里云灵骏真武M890超节点实例正式上线,首批在乌兰察布地域开售。该实例通过ICN Switch 1.0芯片将Scale-up互联规模从16卡扩展至64卡,卡间互联带宽提升至800GB/s,是国内首个成功运行超2万亿参数大模型的超节点形态算力。
在视频云技术大会上,火山引擎推出了大模型训练视频预处理方案,帮助解决视频大模型训练中的成本和性能挑战,并已应用于豆包视频生成模型。该方案依托自研的BMF多媒体处理框架,有效提升了视频数据处理效率。