标签「推理性能」

NVIDIA在拉斯维加斯国际消费电子展上揭晓了包含六款协同设计芯片的Rubin AI计算平台。该平台显著提升AI硬件性能，降低训练和推理成本，加速人工智能技术普及。

英伟达在 GTC 2025 峰会上展示 Blackwell 架构 GPU，其 DGX 系统单节点运行 6710 亿参数模型实现每秒 253 Token 响应速度，较业界提升超 40%。采用 FP8 混合精度模式使显存占用降至 FP16 的 60%，推动千亿级模型单机部署商业化进程。