DIGIPUNK
发表于:5 hours ago

Cerebras 发布 WSE-3 Turbo 芯片与 CS-4 系统,词元容量提升 10 倍

数智朋克
发布者:数智朋克
阅读:1 分钟
我要投稿
AI 摘要
约 1 分钟

快速了解本文

01

Cerebras 发布 WSE-3 Turbo 芯片及 CS-4 系统,词元容量提升 10 倍。

02

CS-4 在 GPT-OSS 模型上推理速度达 4465 Token/s,是 GPU 方案的 30 倍。

03

全新 Nexus 平台组件减少 50%,几乎完全消除板级供电功率损耗。

本摘要由 AI 辅助整理,请以正文内容为准。

数智朋克讯 Cerebras 于当地时间 8 月 18 日发布新一代芯片 WSE-3 Turbo 及基于该芯片的 CS-4 系统。CS-4 相较上代 CS-3 带来 10 倍词元容量和 2 倍速度提升。

关键数据

10×词元容量提升相较 CS-3
速度提升相较 CS-3
4465Token/sGPT-OSS 推理速度

WSE-3 Turbo 集成 90 万个核心和 44GB SRAM 片上缓存,其 FP16 稀疏 AI 算力、内存带宽、片上互联带宽、I/O 带宽均较上代翻倍。CS-4 系统可集成 3 块 WSE-3 Turbo 芯片,进一步提升系统级算力密度。

在推理性能方面,CS-4 在 OpenAI GPT-OSS 模型上词元交付速度达 4465 Token/s,是 GPU 方案的 30 倍,较 CS-3 提升 93%。其 2μs 低延迟晶圆间互连能在 10T 参数规模上实现超 1000 Token/s 的词元输出。CS-4 还原生支持推理负载拆分,可作为解码单元与异构的预填充硬件配套使用。

CS-4 基于 Cerebras 全新的 Nexus 机架式平台,计算、电源、互连均为重新设计的独立系统。Nexus 平台整体组件数量减少 50%,制造自动化比例大幅提升。CS-4 几乎完全消除板级供电功率损耗,为 WSE-3 Turbo 提供双倍电力供给。

本文链接: https://www.shuzhipunk.com/articles/Hc8Ew3qExWt
转载请注明文章出处

文章所属标签
Cerebras
WSE-3 Turbo
CS-4
AI 推理
Nexus