标签「模型推理」

OpenAI 指控月之暗面自 2026 年 7 月起对其 GPT 系统进行大规模数据提取，单月请求量达 1.6 万次，意图复制其最先进模型的推理能力。

寒武纪在2026年半年度业绩说明会上披露，已完成GLM、DeepSeek、Qwen、Kimi、MiniMax五款国产主流大模型的推理适配，训练侧同步推进千卡、万卡集群规模化训练；第六代智能处理器微架构和指令集仍在研发中。公司上半年营收59.96亿元，同比增长108.13%。

IBM 宣布与 Together AI 达成 2.4 亿美元多年期协议，将在 IBM Cloud 部署首个基于 NVIDIA HGX B300 与 Spectrum-X 以太网技术的推理专用集群，预计 2027 年第一季度上线，用于支持 Together AI 的开源模型推理服务。

在2025年度发布会上，OceanBase推出软硬一体化AI大模型推理产品AI一体机，支持本地部署百亿级参数模型，性能媲美集群方案。同期，OceanBase发布并开源首款AI数据库seekdb，探索数据库AI范式跃迁，降低企业AI应用门槛。

国产推理引擎赤兔 Chitu 在异构计算领域取得重大突破，通过跨平台算力适配体系实现 GPU 资源消耗减半、推理吞吐量提升 3.15 倍的颠覆性性能。该引擎同步推动国产 AI 芯片关键指标逼近国际头部产品，将推理成本降低 60%。