标签「推理优化」

DeepSeek 宣布开源底层推理软件 DeepInfer。该工具旨在提升 AI 模型运行速度与计算资源使用效率，帮助企业降低大模型部署与推理的运营成本。