标签「vLLM」

英特尔推出专为大模型推理设计的容器化微服务，支持在 Xeon 处理器上自动检测硬件并应用优化参数，大幅简化 vLLM 部署流程。