AI 摘要
快速了解本文
01
NVIDIA 将内存控制器移至 HBM 基底芯片，推出 NVHBM 技术。
02
相比标准 HBM4E，带宽提升 30%，功耗降低 15%。
03
Amazon Annapurna Labs 将在下一代 Trainium4 中率先支持。
本摘要由 AI 辅助整理，请以正文内容为准。
数智朋克讯 NVIDIA 宣布将 NVLink Fusion 扩展，新增 NVHBM 定制高带宽内存技术，面向超大规模云厂商与 AI 创新者的半定制 AI 基础设施。NVHBM 的核心架构变化在于：将 NVIDIA 定制内存控制器集成到 HBM 基底芯片（base die），而非传统设计中放置在 XPU 裸片上。
这一迁移带来三方面直接收益：
- 相比标准 HBM4E，内存带宽最高提升 30%；
- HBM 功耗降低 15%；
- XPU 计算裸片可释放最高 25% 的面积，重新用于计算单元。
NVIDIA 表示正在建立标准化的 NVHBM 实现，由多家内存供应商提供，以降低多供应商环境下的集成与验证成本，加速半定制 AI 芯片的上市节奏。NVLink Fusion 允许合作伙伴将定制 XPU 与 CPU 接入 NVIDIA 的机架级平台，并访问 NVLink chiplets、NVLink-C2C、NVLink Switches、MGX 系统与机架，以及 CPU、ASIC、系统厂商生态。
Amazon Annapurna Labs 将率先围绕 NVLink Fusion 推进 NVHBM 合作，从下一代 Trainium4 起支持 NVLink Fusion，使 Amazon 芯片与 NVIDIA GPU 共享机架级架构。