百度发布天池1024卡超节点:单套支撑5万亿参数训练,明年上市

百度正式发布天池1024卡超节点,单套可支撑5万亿参数大模型训练。该产品搭载光引擎技术,并配套专用显存加速柜优化长上下文推理,上市时间提前至2027年。

朋克君
发布者朋克君
预计阅读 2 分钟
我要投稿
AI 摘要
约 1 分钟

快速了解本文

01

百度发布天池1024卡超节点,单套支撑5万亿参数训练。

02

该超节点上市时间提前至2027年,具备万卡集群扩展能力。

03

配套G3.5加速柜使长上下文推理性能提升2倍,吞吐提升7倍。

本摘要由 AI 辅助整理,请以正文内容为准。

数智朋克讯 11月12日,百度集团执行副总裁沈抖在百度世界2026大会上正式发布百度天池1024卡超节点。该超节点单套可支撑5万亿参数大模型训练,并具备横向扩展至万卡规模集群的能力,其上市时间已提前至2027年。

关键数据

5万亿单套支撑参数量大模型训练
2.5倍训练性能提升对比上一代
3倍推理性能提升对比上一代
90%TTFT降低多轮对话缓存命中场景

在底层架构方面,百度天池1024卡超节点搭载光引擎技术,使卡间互联带宽提升3倍。对比上一代产品,新超节点的训练性能提升2.5倍,推理性能提升3倍。上市节奏的提前,反映出国产大模型算力基础设施竞争进入加速期,厂商正通过超节点架构和高速互联技术应对万亿级参数模型的训练需求。

针对推理场景,百度天池1024卡超节点配套了G3.5 KV Cache显存加速柜,以强化缓存复用能力,使长上下文推理性能提升2倍。在多轮对话缓存命中场景下,该方案使首token等待时间(TTFT)降低90%,整体吞吐提升7倍。这种针对推理侧的专用硬件优化设计,表明算力硬件正从单纯追求训练指标,向解决长上下文推理的延迟与吞吐瓶颈进行系统级倾斜。

按照规划,百度天池1024卡超节点将于2027年推向市场,相比去年宣布的2028年计划提前了一年。同时,百度底层AI芯片生态也在协同推进,昆仑芯N系列的发布时间也提前至2028年。

RELATED STORIES

继续阅读

围绕「AI算力」,继续阅读相关内容。

ARTICLE RECORD

转载说明

转载请注明文章出处。

TOPICS · 05

文章标签