阿里云-开启云上AIGC动手实践探索技术创意

由阿里云发布了《阿里云-开启云上AIGC动手实践探索技术创意》这篇报告。以下是对该报告的简单概括，更多内容请前往原报告进行下载查看。面向 GenA 时代，阿里云人工智能平台 PAI自带海量开箱即用、实时更新的大模型最佳实践，提供高性能、高稳定的大模型工程化能力。

1.使用 PAI-Quickstart 完成低代码LLM微调、评测、部署

PAI-Model Gallary 集成了业界流⾏的预训练模型，提供⼀站式、零代码的模型微调训练、服务部署、模型评测功能，帮助⽤户快速上⼿使⽤ AI 能⼒。模型涵盖众多AI 场景，包括 LLM 、AIGC、CV、NLP 等。⽤户可⼀键部署模型，调⽤在线服务。也可以使⽤⾃⼰的数据微调训练模型，是模型更加匹配⾃身业务场景。

实验简介

使⽤ PAI-Model Gallary 的基础与训练 LLM ，结合⾃⼰实际业务场景的数据集，对模型进⾏微调，⽣成能够解决实际业务场景问题的专属模型。使⽤模型评测能⼒评估微调后模型的效果，最后将模型快速发布成模型服务。

实验内容

以通义千问 2 模型为例，帮助⽤户快速体验模型微调、评测、步骤的基本操作，整体流程⼤约花费 30min。 使⽤训练数据集对 qwen2-0.5b-instruct 模型进⾏微调，得到⼀个微调后的模型使⽤评测数据集，对微调后的模型、基础模型进⾏评测，对⽐其评测指标部署微调后的模型，体验微调对模型能⼒带来的变化。

实验总结

本次体验了使⽤ PAI-Model Gallery 快速、低⻔槛地进⾏模型微调、评测、部署操作。后续可以根据需求，使⽤⾃⼰实际业务的数据集，对模型进⾏微调，⽣成能解决实际业务场景问题的专属模型。 PAI-Model Gallery 除了 LLM ，还提供了很多其他领域的模型，例如视觉⽅向的分类、⽬标检测等模型。欢迎⼤家使⽤。

2.使用 PAI-QuickStart 基于LLM快速构建AI 应用

主题：基于 PAI 的⼀站式开发能⼒，结合基础预训练 LLM ，体验完整的AI 应⽤开发流程，过程涵盖“数据处理-模型微调-模型部署-应⽤开发-应⽤部署”的完整链路。通过本实验，快速构建⼀个 AI 应⽤。

背景介绍

NL2SQL（⾃然语⾔⽣成 SQL ）技术旨在将⾃然语⾔转换为数据库查询语句，使得即使不熟悉 SQL 的⽤户也能轻松地从数据库中提取数据进⾏分析，从⽽提⾼决策效率并深⼊挖掘数据背后的商业洞察（ NL2BI ）。 通过将 NL2SQL 与当前先进的⼤型语⾔模型相结合，可以显著增强语义理解能⼒，并⽀持更复杂的 SQL 语法⽣成，实现更精准的 SQL 查询和更流畅的数据提取分析体验。

使用产品简介

Model Gallery 简介

PAI-Model Gallary 集成了业界流⾏的预训练模型，提供⼀站式、零代码的模型微调训练、服务部署、模型评测功能，帮助⽤户快速上⼿使⽤ AI 能⼒。模型涵盖众多AI 场景，包括 LLM 、 AIGC、CV、NLP 等。⽤户可⼀键部署模型，调⽤在线服务。也可以使⽤⾃⼰的数据微调训练模型，是模型更加匹配⾃身业务场景。

LangStudio 简介

LangStudio 是 PAI 平台上的⼤模型应⽤开发平台，集成了丰富的⼤模型应⽤开发组件及场景化模版，为⼴⼤开发者提供⾼效开发及调试⼤模型应⽤的能⼒。

实践内容

以 CodeQwen1.5-7B-NL2SQL 模型为例，帮助⽤户快速体验AI 模型能⼒，以及模型训练、 模型部署的基本操作。整体流程⼤约花费 15min。

3.使用 PAI+ LLaMA Factory 完成云端多模态大模型微调

一、引言

阿里云人工智能平台 PAI 提供了面向开发者与企业的深度学习工程平台，其中交互式建模 PAI-DSW 集成了 Jupyter 等多种云端开发环境，提供丰富的计算资源与镜像环境，实现开箱即用的高效开发模式。LLaMA Factory 则是一款开源低代码大模型微调框架，集成了业界最广泛使用的微调技术，支持通过 Web UI 界面零代码微调大模型，目前已经成为开源社区内最受欢迎的微调框架，GitHub 星标超过3 万。本教程将基于通义千问团队开源的新一代多模态大模型 Qwen2-VL-7B-Instruct，介绍如何使用 PAI 平台及 LLaMA Factory 训练框架完成文旅领域大模型的构建。

二、创建 PAI 实例

开通 PAI 并创建工作空间

如果您是首次使用 PAI 平台，需要在主页点击开通 PAI 并创建默认工作空间，所有选项保持默认，确认后等待十几秒钟即可完成创建，点击前往默认工作空间。

三、安装 LLaMA Factory 微调框架

DSW 实例创建成功后，点击打开进入工作空间。进入工作空间，点击 Notebook 中的 Python 3（IP ykernel）创建笔记本。在代码单元格内填写以下命令，点击运行拉取 LLaMA Factory 源码。接着点击+ Code 新建代码单元格，填写以下三条命令安装LLaMA Factory 框架。最后新建代码窗格，填写以下命令，出现相同字样则说明安装成功。

编辑：999感冒灵