快速了解本文
Cerebras 发布 WSE-3 Turbo 芯片及 CS-4 系统,词元容量提升 10 倍。
CS-4 在 GPT-OSS 模型上推理速度达 4465 Token/s,是 GPU 方案的 30 倍。
全新 Nexus 平台组件减少 50%,几乎完全消除板级供电功率损耗。
本摘要由 AI 辅助整理,请以正文内容为准。
数智朋克讯 Cerebras 于当地时间 8 月 18 日发布新一代芯片 WSE-3 Turbo 及基于该芯片的 CS-4 系统。CS-4 相较上代 CS-3 带来 10 倍词元容量和 2 倍速度提升。
关键数据
WSE-3 Turbo 集成 90 万个核心和 44GB SRAM 片上缓存,其 FP16 稀疏 AI 算力、内存带宽、片上互联带宽、I/O 带宽均较上代翻倍。CS-4 系统可集成 3 块 WSE-3 Turbo 芯片,进一步提升系统级算力密度。
在推理性能方面,CS-4 在 OpenAI GPT-OSS 模型上词元交付速度达 4465 Token/s,是 GPU 方案的 30 倍,较 CS-3 提升 93%。其 2μs 低延迟晶圆间互连能在 10T 参数规模上实现超 1000 Token/s 的词元输出。CS-4 还原生支持推理负载拆分,可作为解码单元与异构的预填充硬件配套使用。
CS-4 基于 Cerebras 全新的 Nexus 机架式平台,计算、电源、互连均为重新设计的独立系统。Nexus 平台整体组件数量减少 50%,制造自动化比例大幅提升。CS-4 几乎完全消除板级供电功率损耗,为 WSE-3 Turbo 提供双倍电力供给。







粤公网安备44030002001270号