端侧AI应用端驱动因素有哪些？

从 2024 年开始，应用端已逐步具备发展土壤，有望迎来加速：

1、基建开支巨大，产出端规模较小

大型科技公司花费巨额资金扩建数据中心，且资金量持续增长。这类大型科技公司包括海外的 Google、 Microsoft 和 Meta 等，以及国内的字节跳动、腾讯和阿里巴巴。除此之外，亚马逊、甲骨文、苹果、特 斯拉等公司也是重要的算力开支贡献者。从算力公司收入角度同样也能看出业界在 AI 基础设施方面的 巨大投入。英伟达数据中心收入在 2023 年增长超 200%，2024 年仍维持超 100%的高速增长。除了硬 件设施方面的资本性投入，AI 数据中心仍需考虑其他如运行维护、租赁，以及在后续 AI 模型的训练过 程中所消耗的电力及数据等运营性成本，使得公司实际投入比上述基础设施建设更高。根据英伟达在分 析师日上的演讲，AI 基础设施中，除 GPU 与组网外，其余开销约占到总体的一半。

在巨大的基础设施投入下，收入端却明显单薄。OpenAI 的年收入为 10 亿美元。微软董事长兼首席执行 官萨蒂亚·纳德拉(Satya Nadella)在 2025 财年第二季度业绩电话会议中表示，微软的人工智能业务年化 收入超过 130 亿美元，但该收入与其 2024 年单季度的资本开支水平相当。若未来收入端无法快速提高， 将难以维持该业务的长期运转。企业迫切需要找到能够承接巨额资本开支的 AI 产出。

2、算力使用成本下降，促使更多厂商入局

DeepSeek 引发的新一波生成式 AI 浪潮，本质上是端侧 AI 的红利。正是 DeepSeek 的出现，迫使我们 重新评估 AI 投资回报率 ROI，并认识到端侧 AI 将成为提升 ROI 的新路径。过去，生成式 AI 大模型一 直面临着成本与价值之间的 ROI 困境。AI 落地的核心问题在于如何降低成本。 从企业参与度来看，过去只有大型企业能负担端侧 AI 研发。而如今，而目前该情况已经发生了改变， 一方面，字节跳动的成功降本向业界展示了规模效应降本的可能性，另一方面，DeepSeek 的优化创新 证明对模型本身及训练方式的优化也能大幅降低训练成本，从而降低了行业门槛，使得更多中小企业也 能在 AI 玩具、AI 眼镜等产品中融入强大的 AI 功能，推动端侧硬件智能化的普及。

（1）规模效应降本。随着 AI 数据中心规模增大，厂商有机会通过调度和资源使用优化的方式，提高资源利用率，降低单位 算力使用成本。2024 年 12 月 18 日，字节跳动在火山引擎 FORCE 大会上正式推出了豆包视觉推理大模 型，并宣布进入―厘时代‖，该模型的价格大幅下调至 0.003 元/千 token，相较行业标准低了 85%。火 山引擎总裁谭待介绍，火山引擎在技术上有非常多优化手段，可以降低大模型成本，在工程上可以通过 分布式推理的形式将底层算力使用得更好；另外，在混合调度方面，可以把不同负载进行混合调度，这 样的成本也大幅下降。 各大科技公司均大量投资建设 AI 数据中心，随着规模扩大，AI 训练和推理成本有望下降。2024 年， 亚马逊表示计划在未来几年内在以人工智能为重点的数据中心投资超过 1000 亿美元。2025 年初，公司 又宣布计划投资约 110 亿美元来扩展其在佐治亚州的基础设施。微软副董事长兼总裁布拉德·史密斯 （Brad Smith）2025 年初在公司官网的一篇博客中宣布：在 2025 财年，微软有望投资约 800 亿美元 建设人工智能数据中心，以训练人工智能模型并在全球范围内部署人工智能和基于云的应用程序。谷歌 在 2024 年第四季度及财年业绩电话会议中提到，2025 年公司预计将投资约 750 亿美元的资本支出， 其中大部分将用于技术基础设施，主要是在服务器方面，其次是数据中心和网络。当新的数据中心容量 上线时，云服务商有机会通过调度优化的方式，使其提供的训练和推理成本下降，从而使中小型，包括 初创公司也能加入到 AIGC 行业创新队伍之中。

（2）DeepSeek 优化创新降本。DeepSeek 的模型发布同样也让行业看到了大幅降本的可能性。2024 年末，DeepSeek 公司发布了多 个模型，宣称其中的 DeepSeek-V3 在性能上相当于业界领先的闭源模型 GPT4o，优于领先的开源模型 Llama3，且总训练成本仅为 558 万美元，而 GPT-4o 这样的模型训练成本估计约 1 亿美元。2025 年 1 月 20 日，公司又发布了一个名为 DeepSeek-R1 的模型，声称其在一系列任务上实现了与 OpenAI-o1 相 当的性能。 具体来说，从 DeepSeek 在 V3、R1 模型的相关论文可以看到，V3 模型：1）优化模型架构设计，对传 统专家模型（MoE）架构和传统多头注意力（Multi-Head Attention，MHA）进行了改良（改良后分别 命名为 DeepSeekMoE 和 DeepSeekMLA）；2）预训练采用 FP8 混合精度训练框架减少运算量，并通 过算法、框架和硬件的协同设计，几乎实现了计算和通信的完全重叠，显著提升了训练效率；3）训练 后：将长思维链(CoT)模型中的推理能力提炼到 V3，显著提升了其推理性能。而 R1 系列模型直接将强 化学习(RL)应用于基础模型，无需依赖监督微调(SFT)作为初始步骤。这种方法可以减少对大量监督数 据的依赖，降低训练成本。 总的来说，DeepSeek 通过一系列创新，大幅降低了其模型的训练成本，且保有优秀的性能表现。同时， DeepSeek 对其模型进行了开源。目前可以在开源社区平台下载 DeepSeekR1、V3、V2 等各版本的模型， 同时公司还提供了一些轻量化及蒸馏模型，针对参数量更小的场景。虽然这些模型主要应用于文本领域， 且其模型并不一定能直接移植到端侧，但其开源模型及降本思路具备参考价值，为行业提供了成功大幅 降本的案例，使行业有机会迎来更多参与者，加速应用落地。

3、部分端侧 AI 产品已有市场反馈，并持续迭代

2024 年，生成式 AI 领域出现了许多应用方面的尝试，包含软件及硬件，为后续的发展奠定了基础。 软件方面，从 AI 办公助理到 AI 视频制作，再到语音代理和 AI 会计师。其中，部分 AI 应用产品已有不 错表现。Perplexity 自推出以来一直处于增长状态，每月活跃用户达到 1500 万。根据公司 2024 年 12 月的公告，ChatGPT 在全球每周拥有 3 亿活跃用户。OpenAI 于 10 月推出了 ChatGPT Search，这是其 现有类似搜索功能的扩展。就国内看，豆包截止至 11 月底，豆包在 2024 年的累计用户规模已经超过 1.6 亿，每日平均新增用户下载量稳定维持在 80 万，成为全球排名第二，国内排名第一的 AI APP。AI 产品榜全球总榜数据显示，2025 年 4 月份，ChatGPT 稳坐第一，拥有 5.5 亿月活跃用户；阿里夸克第 二，月活跃用户量近 1.5 亿；字节豆包第三，月活约 1.1 亿。国内总榜上，排名前三的分别是夸克、豆包 和 DeepSeek。

DeepSeek 应用(APP)于 2025/01/10 发布，日活跃用户 DAU 第 5 天超过 ChatGPT，第 15 天是 ChatGPT 的 2 倍达 259 万日活跃用户，成为全球增速最快的 AI 原生应用。

硬件产品方面，主要包括 AIPC、AI 手机、AI 可穿戴（耳机/眼镜等）、AI 玩具、汽车（自动驾驶）、 机器人等。其中，AIPC 自 2023 年首次推出后，已经过一年多的迭代优化，已具备一定规模；AI 手机 于 2024 年开始发布，几乎所有大型手机厂商均有相关机型推出；可穿戴类产品，尤其是眼镜产品在市 场上取得优异销售成绩，逐步得到各大科技公司重视；AI 陪伴、玩具类产品也有更丰富的产品产出，并 逐步积累客户群体；汽车已在自动驾驶的长年探索中逐步使用生成式 AI 技术，而 AI 机器人市场仍在商 业化探索阶段。

端侧硬件设备是 AI 应用的基础，也是重要的用户入口。如果说模型是 AI 的―大脑‖，那么设备就是它的 ―神经末梢‖与―感知界面‖。真正的 AI 应用，不可能永远停留在服务器或云端，它必须―落地到生活中‖，成为用户每天都能触达的存在。端侧 AI 设备就是这个―落地‖的物理载体。在各类 AI 硬件设备产品中， AIPC/手机等消费类产品在较短的时间内放量，并形成对生成式 AI 技术投入回报的机会更大。基于自 动驾驶的汽车产品出于对安全、可靠性、响应速度等方面的高要求，在 AIGC 技术应用方面有较大限制， 且价格更高，用户更换周期更长；而机器人产品尚未形成销售规模，处于商业化探索阶段。