MaaS 框架由三部分组成,分别包括模型平台层、模型服务层和模型应用开发层。
模型平台层为模型定制开发提供全套的工具链及全流程管理能力,包括数据处理、模型开发交付和运营等能力。基于该层,一方面通过全套的工具链帮助企业降低模型定制开发的技术门槛,另一方面通过全流程的运营管理提高多团队协作效率,并实时监控线上模型运行情况,保障业务效果。 1.能力架构 模型平台层包括数据工程、模型开发、模型交付、服务运营。该层以基础大模型、算法、私有数据集等为输入,以企业专属模型为输出。

2.能力模块 数据工程:通过数据处理及管理工具,将原始数据集处理成可直接被用于模型训练和模型评估的高质量数据集。数据采集方面支持主流数据源接入以及本地数据导入,具备处理海量、多模态和多格式数据的能力;数据标注方面平台支持在线标注,提供人工与自动等多种标注方式,并对标注好的数据集做统一管理;数据处理方面支持清洗、过滤、去重、去隐私等流水线处理方式,从而提升数据质量优化模型效果;数据生成方面支持在数据分布不均衡或缺少数据的情况下,根据需求生成相应的数据以达到数据平衡;数据回流方面支持将业务数据回流至数据集以持续优化模型性能,经筛选、调整及处理,用于下一次的模型优化或训练。 模型开发:包括大小模型的开发,通过提供模型训练、调优、重训,和强化学习等环节的工具支持,以实现模型的定制,同时降低开发的技术门槛。在模型训练方面支持各类AI 模型训练所涉及的特征工程、模型调参和模型实验等能力;在模型调优方面通过提供多种调优工具,支持自动化或半自动化的模型调优,完成私域模型定制;在模型重训方面,根据私域数据集进行场景化训练,生成专属模型;在强化学习方面,基于人类反馈数据,支持多种强化学习框架及策略,并对强化学习后的模型进行效果评估。
模型交付:通过提供模型压缩转换、模型测试、模型部署和管理等能力,支持将调优好的模型发布上线,缩短交付周期并快速响应业务需求。在压缩转换方面,支持量化、蒸馏、剪枝等多类算法选择,并预估不同算法的压缩效果,支持用户在保持模型性能的同时,能够将模型运行在更多的计算设备上,提升模型适配度;在模型测试方面,支持对模型各类指标进行评估,验证模型效果;在模型部署方面,支持在多种环境下快速部署模型,缩短上线周期。 服务运营:通过对发布的模型服务进行统一运营管理,包括服务托管、服务监控、服务告警、结果和反馈等,对模型服务进行有效监控与运维。
模型层以模型为主体,是 MaaS 的核心AI 能力,为用户提供可直接调取的模型服务,降低了用户使用各类模型的难度,推动了大模型普惠化发展,同时为上层个性化智能应用的开发提供AI 能力支持。 1.能力架构 模型层包括丰富的模型库、数据集和服务管理等能力,提供API、SDK、模型文件、在线推理服务等形式。

2.能力模块 模型库:包括大模型和传统 AI 模型,通过库的方式对模型资产进行统一纳管。模型库中的模型支持被模型平台层调用而进一步调优生成新的模型,并将其发布至模型库中进行共享;同时也支持被上层的应用开发层调用,配合多模型、知识库和插件等共同组建成 AI 应用。 服务管理:是指对模型库中的模型进行全生命周期管理,以提供高质效、可持续的模型服务,包括模型卡片管理、模型文件管理、服务调用管理和模型库管理。模型卡片管理是指管理模型的基础信息,如同药品说明书,模型使用者需知晓模型的适配场景及使用方式、使用限制,从而帮助用户更快选对模型、用对模型;模型文件管理是对所有模型对应的文件进行统一管理,包括模型版本管理、模型追溯、模型存储等,以便集约化管理模型文件;服务调用管理是指管理不同用户在各类服务使用过程中的调用权限管理、调用数据监控及分析和调用计费等内容;模型库管理是为了维护库的正常运行,对模型进行入库、更新、出库等维度的管理。
数据集:包含公开数据集和私域数据集及其管理能力。数据集根据用途可与模型库中的模型服务配套使用,也可将数据集共享发布成数据服务,被其他用户调取使用,降低数据收集和处理成本。
应用开发层基于各类模型服务和知识库、插件等能力,通过自然语言、工作流编排、界面配置等方式,完成基于模型的AI 应用开发和集成,同时对应用从创建到使用的全生命周期进行管理,提高应用开发效率。 1.能力架构 应用开发层包括支撑能力、应用开发集成、应用生命周期管理三部分。支撑能力是构建 AI 应用所需的基础能力,如模型服务、插件、知识库、Prompt(提示)、RAG、Agent 等;应用开发集成根据不同用户技术水平和场景的需求分为自然语言、界面配置、工作流编排以及代码开发等方式,满足不同开发难度和灵活度的需求;应用生命周期管理对应用创建到上线运营的整个流程进行统一管理,保障应用的稳定运行。

2.能力模块 支撑能力:为应用开发提供了多种基础能力,用户可根据需求选择相应能力进行组合编排或开发。其中模型服务可直接被调取以提供 AI 能力;插件提供了各类可扩展的工具能力,使得应用功能更加丰富,包括自建插件和第三方插件等;知识库提供了丰富的行业知识和私有数据支持,并结合RAG 等能力将新数据引入模型,增强输出结果的准确性;Prompt 提供了创建应用、使用应用的提示词管理能力,以帮助模型更好地理解用户意图;Agent 通过自主感知、决策和执行等环节进一步提升了应用的智能化水平,并加强与已有工具或软件系统的联动。
应用开发集成:为不同技术水平的用户提供多样化的应用开发和集成能力,提高应用开发的灵活性。自然语言交互的模式下用户通过恰当的 Prompt 可快速实现专属场景下的应用构建;界面配置的方式支持用户通过选择基础模型、设置模型性能、匹配插件知识库等组件完成应用构建;工作流编排的方式支持用户将多个模型及各类组件以某种逻辑规则进行编排,可自定义不同模型和组件之间的逻辑关系,提升应用开发的扩展性;代码开发适合具备编码能力的用户,可基于 API 接口、SDK 套件等进行灵活编码设计,支持更加灵活的应用开发。 应用生命周期管理:覆盖了从应用创建、调试、部署到发布以及监控运营的完整流程。通过全生命周期过程管理,提高应用开发过程可控性;通过监控运营及时发现并解决问题,保障应用的持续运行和优化改进。