要点速达👈
- 🌐 全球开源技术峰会在上海开幕,华为分享ModelEngine实践。
- 🤖 ModelEngine是华为DCS全栈AI工具链,涵盖数据处理到应用部署全流程。
- ⚙️ ModelEngine的开放性缩短了语料生成时间,提升了AI开发效率。
- 🔧 针对开发者,提供一站式AI应用开发和部署服务,支持多种插件保护AI资产。
数智朋克讯,全球开源技术峰会(GOTC2024)昨日在上海拉开帷幕,由开源中国与上海浦东软件园联合举办。华为数据存储软件首席专家张群辉在峰会上分享了ModelEngine在垂域大模型领域的实践应用。
张群辉介绍,ModelEngine是华为DCS(Data Center Stack)全栈的AI训推全流程工具链,涵盖从数据处理、知识生成到模型微调和部署的各个环节,并支持RAG应用开发与部署。该工具链旨在为数据处理工程师、模型工程师和应用开发者提供高效、灵活的全流程AI开发体验。
ModelEngine的开放性是其核心优势之一。张群辉指出,工具链基于开放的数据使能、模型使能和应用使能工具链,支持主流模型和开放的应用算子,使得语料生成时间从原本的数月缩短至几天,大幅提高了AI项目的开发效率。
针对开发者,ModelEngine提供一站式的AI应用开发、评估优化和部署服务,帮助快速构建高准确率的AI应用。张群辉还提到,ModelEngine支持LangChain、LlamaIndex等插件,能够保护和利用已有的AI资产,进一步强化了其在垂域大模型开发中的实用性和灵活性。