端侧AI定义、优势、应用及产业链梳理

端侧 AI 是指在终端设备上运行 AI 模型，相较于云端大模型，端侧模型在资源有效的设备上高 效运行，需要进一步多模型进行压缩、推理加速和能耗优化。

将大模型部署在端侧设备，可高效赋 能智能终端，如降低延迟，更快响应用户请求；隐私保护，减少数据传输，从而降低隐私泄露的风 险；减轻云端服务器的计算负担，降低对中心化计算资源的依赖，从而降低成本；根据用户的具体 设备和使用习惯进行定制化优化，提供更加个性化的服务；部分场景下不需要连接网络，提高了应 用的灵活性。 AI 加持下，手机将由工具升级为助手。手机的发展从早期的功能机过渡现阶段的智能机，目前 各品牌智能手机高度同质化，缺乏创新也导致消费者换机周期拉长。各品牌厂商将 AI 视为下一轮手 机升级的主要方向，苹果在 iOS 18 中引入全新的 AI 功能，全新的 Siri 采用了先进的大型语言模 型，新版本的 Siri 能够更准确理解用户的意图。华为在 HDC 2024 上提出 Harmony Intelligence，搭载了大模型的小艺，在鸿蒙原生智能框架下升级为系统级智能体，其交互和意图理解能力增强。 IDC 预计 2024 年全球生成式人工智能手机出货量为 2.34 亿部，在全球智能手机出货量占比为 19%， 2024 年至 2028 年全球 AI 手机复合增速将达到 40.5%。

AI PC 有望承载个人大模型需求。普通用户不仅需要公共的大模型服务，也需要专属的个人大 模型。个人大模型的普及，必然带来用户对大模型的专属化需求的提高，而云端公共大模型无法满 足消费者多样化的需求，专属化的成本相对较高。在众多消费电子产品中，PC 有望成为适合承载大 模型的理想平台，其主要优势包括： PC 具备全模态的人机自然交互条件。PC 拥有最多样化交互方式的终端设备，既包括相对直接触 控交互、语音交互、手势控制，也具备更加复杂的键鼠交互、数字笔交互等。多元化的交互方式使 得 PC 在承载创新的 AI 交互方式方面具备巨大潜力。 PC 是承载最多场景的个人通用设备。PC 作为一种通用生产力平台，既能够承载以消费内容为主 的生活娱乐场景，也能够承载以创作内容为主的工作、学习等场景。 PC 是迄今为止最强的个人计算平台。PC 自诞生以来始终代表了个人计算平台的能力巅峰，PC 的通用计算能力强劲，并得到长期优化，在性能、成本、体验方面达到最佳配置，是个人计算设备 中拥有最强性能的通用计算平台。 PC 是存储容量最大、最受信赖的安全终端。随着用户使用 AI 应用的频次提高，个人交互数据 量快速增加，数据安全性和隐私保护的重要性日益凸显。PC 拥有大容量的本地安全存储，用户在本 地终端设备上进行数据分析、模型推理与计算，个人数据不再需要存储在云端或远程服务器，可以 安全地保留在用户的设备，提高了数据的安全性。

AI PC 能够为用户提供通用场景下的个性化服务，提供即时、可靠的服务响应，更低的大模型 使用成本以及可信、安全的个人数据和隐私保障。针对工作、学习等场景，AI PC 可提供个性化创 作服务、设备管家服务等在内的个性化服务。响应速度慢、反馈时间长是用户对 AIGC 平台使用的主 要负面反馈，AI PC 以本地推理为主，边缘和云端推理为辅，能够在混合算力、混合模型之间智能、 合理调配任务，有效缩减响应时间，离线状态下的可操作性也是 AI PC 的优势。AI PC 的消费者一次性购买后即可享受全生命周期的本地免费推理服务，再加上有限的云端订阅，可显著降低用户使 用 AI 大模型的成本，同时也降低了带宽成本。AI PC 有专门用于存储用户的特定类型文件与数据的 安全空间，确保个人用户与企业用户的隐私与涉密信息能在本地实现安全隔离，仅在受信任的环境 下才可以被调用。 AI 大模型加持，AR 眼镜升级为智能眼镜。据 VR 陀螺不完全统计，2024 年全球已公开亮相、正 式发布的智能眼镜系列产品达到了 46 款。其中，聚焦 AI 音频、拍摄的眼镜为 9 款，AI+AR 眼镜、 AR 信息提示眼镜为 22 款，分体式 XR 眼镜、观影眼镜为 15 款。2023 年已有部分厂商为 AR 眼镜提 供基础的 AI 语音交互，2024 年部分厂商开始在 AR 眼镜上增加摄像头，以满足多模态交互的可能 性。对于传统的 AR 厂商而言，AI 大模型加持让 AR 眼镜升级为智能眼镜。以 Meta 和雷朋合作的眼 镜为例，产品虽然在 2023 年发布，但多模态的 AI 功能，从 2024 年才开始陆续推送到用户侧。RayBan Meta 的多模态 AI 功能，通过眼镜上的摄像头，可以让用户实现如翻译眼前的法语菜单、通过 语音指令查询实时信息、识别街道建筑等。

目前，端侧 AI 芯片厂商、中游模组及软件厂商、下游终端厂商的产业链上下游正积极推动 AI 在端侧部署落地。其中，AI 手机的核心变化是 SoC 升级。 手机 SoC 厂商重点布局 AI。在功耗和散热受限的终端上使用通用 CPU 和 GPU 服务平台，难以满 足 AI 用例严苛且多样化的计算需求；同时，AI 用例在不断演进，在功能完全固定的硬件上部署这 些用例不切实际。因此，支持处理多样性的异构计算架构能够发挥每个处理器的优势，例如以 AI 为 中心的定制设计的 NPU，以及 CPU 和 GPU。每个处理器擅长处理不同的任务：CPU 擅长顺序控制和即 时性，GPU 适合并行数据流处理，NPU 擅长标量、向量和张量数学运算，可用于核心 AI 工作负载。 高通在 2015 年正式推出的骁龙 820 处理器集成首个高通 AI 引擎，支持成像、音频和传感器运算， 2018 年高通在骁龙 855 中为 Hexagon NPU 增加了 Hexagon 张量加速器。2019 年高通在骁龙 865 上 扩展了终端侧 AI 用例，包括 AI 成像、AI 视频、AI 语音和始终在线的感知功能。2020 年高通凭借 Hexagon NPU 变革型的架构更新，融合标量、向量和张量加速器，同时还为加速器打造了专用大共 享内存。2021 年推出的骁龙 8 Gen 1 AI 算力为 9 INT8 TOPS，骁龙 8 Gen2 AI 算力提升 4.35 倍； 骁龙 8 Gen3 的 NPU 算力进一步提升 98%。2017 年华为发布的麒麟 970 首次集成人工智能专用 NPU 神 经网络单元，同年苹果推出的 A11 处理器首次引入神经网络引擎（Neural Engine）。

满足 AI 需求需要升级手机内存。在手机上运行 10 亿参数的大模型至少需要 1GB 内存，运行 70 亿参数大模型需 4GB 内存，运行 130 亿参数大模型需要超过 7GB 内存。在处理数据时，需要在手机 内存中进行临时的存储和运算。AI 手机可能支持多个 AI 任务运行，需要更多内存支持多个任务同 时运行。模型存储需求、数据处理需求和多任务处理需求驱动 AI 手机内存容量提升，安卓旗舰手机 从 2023 年开始逐步淘汰 8GB 内存，以 12GB 及以上内存配置为新标配，部分高端机型已配备 24GB 内 存。此外，AI 运算需要快速读取和存储数据，对内存的读写速度要求更高；更大的内存带宽能够确 保 CPU、GPU 和 NPU 等硬件和内存之间的数据传输更加顺畅。 AI 手机对散热系统要求更高。为了保证手机在高负荷运行 AI 任务时的性能和稳定性，需要散 热系统具备更强的散热能力。传统的散热方式可能无法及时有效地将热量散发出去，因此 AI 手机通 常需要采用更先进的散热技术和材料，如更大面积的散热石墨片、散热铜管、均热板等，以提高散 热效率。

提升电池容量和发展快充技术以满足 AI 手机需求。高计算需求、多任务处理和数据传输会加快 AI 手机电量消耗，为了满足 AI 手机对电量的高需求，手机厂商会倾向于采用更大容量的电池，以 延长手机的续航时间。例如，部分高端 AI 手机的电池容量已经从过去的 3000mAh-4000mAh 提升到 4500mAh-5000mAh。碳硅电池比传统的石墨电池能实现更高的能量密度，从而实现长时间续航。同时， 为了弥补 AI 手机电量消耗快的问题，快充技术得到了更广泛的应用和发展。 综上，端侧 AI 最大的变化在于在 SoC 升级，其次存储容量的提升以及带宽、传输速率的提升也 至关重要，散热方案的升级、电池容量的提升需要同步进行。