DIGIPUNK
发表于:3 hours ago

Together AI 与 IBM 达成 2.4 亿美元协议,部署首个 IBM Cloud 上的 NVIDIA HGX B300 推理集群

数智朋克
发布者:数智朋克
阅读:1 分钟
我要投稿

AI 摘要
约 1 分钟

快速了解本文

01

IBM 与 Together AI 达成 2.4 亿美元协议,将在 IBM Cloud 部署 NVIDIA HGX B300 推理集群。

02

这是首个基于 IBM Cloud 采用 HGX B300 与 Spectrum-X 以太网技术构建的大规模推理专用集群。

03

Together AI 近期以 83 亿美元估值完成 8 亿美元 C 轮融资,月处理 Token 能力达 400T。

本摘要由 AI 辅助整理,请以正文内容为准。

数智朋克讯 IBM 于美国当地时间 2026 年 8 月 11 日宣布,与 Together AI 达成一项多年期 2.4 亿美元协议,将在 IBM Cloud 上部署一个 NVIDIA HGX B300 集群,专门用于支持 Together AI 的开源模型推理服务。该系统预计将于 2027 年第一季度投入使用。

IBM 称,这是首个基于 IBM Cloud 并采用 NVIDIA HGX B300 系统与 Spectrum-X 以太网技术构建的、专用于推理的大规模集群。这一组合标志着英伟达新一代 Blackwell 架构在大型企业云上的推理场景开始进入交付周期。

Together AI CEO Vipul Ved Prakash 表示,企业希望获得最先进的模型性能但不愿承担封闭模型的高昂成本,这要求底层基础设施快速、可靠且可大规模部署。与 IBM 和 NVIDIA 的合作奠定了这一基础,使 Together AI 能更快为更多公司提供生产级推理能力,是其推动开源 AI 成为企业首选的重要一步。

Together AI 近期以 83 亿美元估值完成了 8 亿美元的 C 轮融资,月处理 Token 能力达到 400T。在此体量下选择向 IBM Cloud 采购专用推理集群,反映开源模型推理正在从共享云实例走向定制化大规模专属基础设施的阶段。

本文链接: https://www.shuzhipunk.com/articles/7QpXn6q7gzJ
转载请注明文章出处

文章所属标签
Together AI
NVIDIA HGX B300
Spectrum-X
IBM Cloud
开源模型推理