8月16日消息,8月15日,由开源中国与上海浦东软件园共同主办的全球开源技术峰会(GOTC2024)在上海召开。华为数据存储软件的首席专家张群辉进行了分享。模型引擎在垂直领域大模型的应用实践中。
根据张群辉的介绍,ModelEngine 是华为 DCS(数据中心堆栈)全面的 AI 训练与推理全流程工具链。业界首个引入人工智能的流式编程框架提供从数据处理、知识生成到模型微调和部署的全方位服务,同时支持 RAG 应用的开发和部署,旨在为数据处理工程师、模型工程师和应用开发者提供全面的解决方案。开箱即用全面的人工智能开发体验。
注意到,张群辉在演讲中提到,基于 ModelEngine 的开放数据能力、模型能力和应用能力工具链,支持利用开放的数据处理操作符、主流模型以及开放的应用操作符。语料生成时间由一个月缩短至几天。为开发者提供一站式的AI应用开发、评估优化和部署服务,帮助快速构建AI应用,支持LangChain、LlamaIndex等插件,同时保护现有的AI资产。