2024年投资展望：算法进步+应用落地，商业闭环逐步形成

AI：有望继续成为 2024 年科技行业发展核心主线之一

在 OpenAI 于 2022 年底发布的 ChatGPT 大获成功后，在 2023 年，全球各大科技公 司全力投入生成式 AI 领域，如 Meta 的 LLaMA 2、Google 的 Bard 聊天机器人和 Gemini、 百度的 Ernie Bot，以及 OpenAI 的 GPT-4 等。从资本市场的反应来看，市场亦给予了积 极的反馈。简单总结而言，2023 年 AI 领域的发展可以从四个角度进行概括：

算法模型：作为行业核心和基础，本年度各类大模型的发展均得到稳定推进，同 时以基础模型为根基的各类垂类细分模型快速涌现。OpenAI 在 3 月发布了功能 更强大的 GPT-4，随后在 9 月引入了实时网页浏览功能，增加了 DALL·E 3 和 语音转换功能，以提高模型的多功能性和用户互动性。11 月，OpenAI 推出了 GPT Store 和个人助手 API，并发布了 GPT-4 Turbo 模型，推动模型的进一步商 业化落地。谷歌于 2 月发布了基于 LaMDA 的 Bard 聊天机器人，年底又推出了 Gemini，与 GPT-4 展开竞争。Meta 在 2 月推出 LLaMA，增强了其生态系统内 的 AI 功能，并在 7 月发布 LLaMA2 进行升级。

应用场景：基础大模型的不断发展推动了应用场景的快速延伸，但短期仍受制于 模型的能力。微软推出的 New Bing 搜索引擎和 365 Copilot，以及谷歌基于 Bard 的搜索引擎和 Workspace，均标志着 AI 在搜索引擎和工作领域的实际应用。微 软通过更新 AI 套件的功能，如发布必应企业版、Vector Search 和 Copilot Azure 以更好地满足用户需求。此外，其他公司也在特定垂直行业中开发专用的 AI 应 用，例如亚马逊推出的 AI 驱动图像生成工具优化其电商运营，Adobe 发布的 Firefly 系列模型提高了创意控制和图像质量。应用场景的不断拓展也反向促进了 各类垂类大模型的开发，形成了正向循环。

硬件算力：AI 硬件技术在 2023 年的快速发展，特别是在处理能力和应用范围方 面的显著提升，为 AI 领域的研究和应用提供了更加强大和灵活的计算平台。得 益于 NVIDIA H100 Tensor Core GPU、NVIDIA DGX H100 的布局，英伟达股价 年初以来涨幅超 200%，H100 GPU 被 Oracle Cloud Infrastructure、AWS 和 Microsoft Azure 等云服务商采用。其余各科技公司如 Google、Meta、Intel 继续 开发专用 AI 处理器，Meta 推出 MTIA、MSVP 等 AI 芯片，AMD 推出了 Instinct MI300X GPU 和 MI300A APU，以应对日益增长的生成式 AI 需求。

政策监管：伴随 AI 技术的不断进步，各个国家与地区均推出相应的产业政策。 与之相应的，对于 AI 监管的需求不断增长，下半年美国发布 AI 监管的法案；2023 年底，欧洲立法者通过了 AI 法案，旨在更负责任地开发高风险 AI。此外，从产 业角度，美国加强了对中国 AI 技术的限制，继 H100 与 A100 禁令后，又推行新 的禁令限制向中国供应 AI 芯片。

展望 2024 年，我们判断 AI 行业仍有望继续保持快速发展，并成为短期、中期全球科 技产业发展的核心主线之一，进而对中短期企业 IT 支出规模&结构、应用场景拓展、财务 收入增长&运营效率改善等产生持续、深远的影响：

企业 IT 开支：根据 Gartner 预测，2024 年全球 IT 支出预计将达到 5.1 万亿美元， 较 2023 年的 4.7 万亿美元，同比增长 8%。除宏观经济预期改善带来增长外， 企业也在继续投资 AI。在 Gartner 的调查中，近四分之三(73%)的 CIO 表示，他 们的企业将在 2024 年增加对 AI/ML 的投资。同样在科技巨头中，2023 年下半 年资本开支相较去年同期亦有较为明显的上升，AI 对 IT 开支的影响正在逐步显 现。

AI 应用场景：进入 2024 年，预计各行业将更广泛地采用 AI 技术，改造和升级 现有产品，并尝试获取收入，如微软、Adobe 等主要企业已经发布 AI 订阅产品，大量初创公司亦通过 AI 进行商业模式、产品形态的持续创新。

运营效率改善：AI 可以用于自动化重复性、繁琐的任务，如自动化数据输入、报 表生成、客户服务的基本交互等。根据美股大型科技公司的三季报，AI 的引入能 够持续降低员工招聘的速度，带来成本的持续优化。

立足资本市场的视角，市场对 AI 行业中长期的产业投资机遇本身并没有太多分歧，市 场关注内容更多在于产业技术发展方向、产业化节奏、产业链价值分配等层面。展望 2024 年，我们判断如下问题将继续成为资本市场关注的焦点，在本篇报告中，我们亦将对这些 问题进行系统、全面地分析，进而在此基础上构建 AI 产业的投资逻辑。

算法：openAI、谷歌、Meta 等领先企业的算法研发进展，多模态、复杂逻辑推 理等基础算法能力实现突破的时间表；闭源&开源之间格局将如何演化；如何借 助 RAG、模型压缩等技术实现算法灵活性、单位算力成本等核心指标的持续改 善？

算力：算法进步将如何影响训练端的算力消耗；伴随算力负载从训练向推理端的 迁移，AI 计算芯片、网络设备市场格局&产品形态将如何演化；台积电 CoWoS 封装产能在 2024 年的大规模开出，将如何影响 AI 芯片市场的供需格局？

应用场景：伴随算法持续迭代&进步，应用场景落地具体节奏如何判断；AI+软件、 边缘 AI 是否是 2024 年最值得期待的落地场景；多模态模型的突破，能否带来自 动驾驶、机器人产业的实质性突破；互联网巨头能否在 2024 年借助 AI 实现变现 能力、运行效率提升？

算法：多模态、推理成本下降等料将是 2024 年焦点

技术路线：大模型的“压缩即智能”在业内接受度不断提高。展望 2024 年的技术主 线，预计核心会围绕如何提高 LLM 模型的“压缩率”。目前 LLM（大语言模型）的底层 Transformer 架构在 2017 年被提出，随后在 2020 年 OpenAI 提出的 GPT-3 中进一步明确 了以 NTP（Next Token Prediction）为核心的预训练方法。模型智能程度越高，NTP 预测 得越准确，则其压缩效率就越高，这是目前 OpenAI 照此思路推进大模型研发方向的一个 核心理念。OpenAI 首席科学家 Ilya Sutskever 在今年 8 月的伯克利大学公开演讲中明确 表示了这个思路。 同时 OpenAI 负责大模型团队的 Jack Rae 也在 4 月份 Stanford MLSys 研讨会上做了以“Compression for AGI”为主题的报告，从理论层面，概念性地论证了这一理念。业内经过了 3 个月至半年左右的消化，目前根据模型的压缩效率 （epoch=1 情况下积分得来的 Training Loss）来评估模型的智能程度的方法也成为了一种 主流假说，模型对下一个单词预测的越好，那么模型压缩效率越高，则模型智能程度越高， 而通过 SGD/Adam 作为优化算法的 Transformer 模型被认为是现在表现较好的压缩器， 这也是为什么我们在中短期内仍然会看到 Transformer 作为大语言模型的底层。展望 2024 年的技术路线，预计提升模型规模仍然是提高模型压缩率的重要方法，此外还包括通过 SFT、RLHF 等算法上的优化继续提升压缩率，在这背后仍然是模型大厂围绕数据质量以 及数据大小的竞争。

围绕压缩率的探索有望成为 2024 年的主线，规模与算法优化是当前研究的主要方向。 OpenAI 已经向业内证明，通过压缩理解大语言模型是一种能够量化大语言模型表现的思 路。从压缩的观点出发，最直接能提高模型压缩率的方法就是提升规模以及优化算法帮助 模型更快收敛。Scaling Law 表明，增加模型的规模（参数量、层数等）与数据量通常会 带来性能的提升。从 Jack Rae 对 Llama 不同版本的试验可以看出，随着参数量的增大， 压缩率也随之提高，最终在 Llama-65B 模型上达到了 14 倍的压缩率。而 SFT、RLHF 等 算法通过已标注数据对预训练模型进行再训练，利用额外的优质数据，有助于继续提升压 缩率。因此叠加大规模、多样化且高质量的数据集，我们认为后续模型能力的提升仍将围 绕上述要素进行。

Scaling law：未来数据集的大小将比模型大小更加重要。OpenAI 团队首次提 出了神经语言模型的性能与模型规模（N）、数据集规模（D）和训练计算量（C） 之间的幂律关系。Deepmind 提出了扩展法则的替代形式（Chinchilla Law）来指 导 LLM 如何在训练过程中通过控制模型大小与数据集规模获得最优性价比。我 们看到，GPT 等大语言模型能够在扩大模型的基础上，持续提升性能。此外在 Scaling law 的规律作用下，Meta 旗下的 LLaMA 系列模型亦在上述规则基础上， 力图在算力需求稳定的基础上追求更大的效率。Llama2 的最大版本并没有严格 遵守 Chinchilla Law 而是选择了更大的数据集与更小的模型规模，这是因为虽然 法则指向了训练时的最优性价比比率，但推理时的重复复用场景显然比只需要经 历一次的训练场景更加昂贵。因此 Meta 选择了控制模型规模来减小推理时的成本消耗，并用更多的数据量来弥补性能。我们认为，后续模型的迭代与升级相比 此前注重训练时的性价比最优，会更多考虑实际推理的场景的情况，因此数据集 的大小在未来可能比模型大小更加重要。

SFT、RLHF 等算法：除去 Scale 之外的主要提升压缩率手段。在之前的大语言 模型训练中，在完成初步预训练后，通常使用 SFT、RLHF 等算法增加额外的训 练步骤提升精度。这两种方法都依赖于人类反馈，但形式不同。SFT 通常使用标 注数据集（即事先由人类标注的正确答案）实现监督学习，而 RLHF 直接利用人 类对模型输出的实时反馈完成强化学习。数据集质量与人类标注质量是决定优化 质量的最直接因素。展望 2024 年，我们预计 AI 的算法将在 2023 年的基础上进 一步进行升级：1）采用 AI 替换高成本的人工，并降低偏见。谷歌提出了 RLAIF 的方案，使用 LLM 来代替人类手工标记偏好，基于这些标记数据训练奖励模型， 然后进行 RL 微调。在性能方面，RLAIF 与 RLHF 有相似的表现。2）OpenAI 提出的“超级对齐方案”。OpenaAI 为提升对齐能力，使用 15 亿参数的 GPT-2 模型“监督”GPT-4，使其达到接近 GPT-3.5 级别的性能，OpenAI 将其称为 Weak-to-strong generalization，补足了 RLHF 在性能上的损失。

多模态：除去压缩率的提升外，扩展模型的适用场景也成为了当下的重要共识，重点 在图片的多模态模型料将成为 2024 年重点升级领域。当前大模型从文字向多模态的升级， 是拓展使用场景与商业化前景的重要发展方向。从技术角度出发，当前的多模态模型在文 字部分基本沿用了目前语言模型的预训练架构，而在图片部分会使用类似于 ViT 的 Patch Embedding 等方法将图片分割为小像素块再交给模型进行预训练。接下来，多模态模型会 使用不同的方法将文字和图片的输入进行对齐。如 T5、CliP 的部分变体等模型会采用交 叉注意力的技术使模型在理解一种模态内容时考虑到另一种模态的上下文，帮助模型在处 理一个模态的同时，捕捉到与另一模态的直接关系，这也让多模态模型从真正意义上做到 了同时理解文字与图片。目前包括谷歌 Gemini 模型在内，使用了多模态的数据，仍主要 沿用 Transformer Decoder 的架构，采用 32K 的 Context Length 的思路进行训练。同时 为了推理效率，Attention 部分选择了 Multi Query Attention。我们判断以 Transformer 为 底层的多模态模型料将会是 2024 年的重点方向，下一代多模态将会快速拓展目前大语言 模型有限的应用场景，显著提高语言模型的泛化能力，并有望在成本方面展现出对传统专 有模型的优势，从而推动如 AI Agent 等应用的落地。

当前算法层面的问题&解决思路：虽然当前压缩率通过 Scale 与算法优化不断提升， 例如Llama65B的14倍压缩率已经远超了2022年Hutter Prize最佳结果的8.5倍压缩率。 但大模型在落地应用的过程中，依旧出现幻觉等问题，同时由于其技术特点（本质为概率 模型），在解决数学等复杂的逻辑推理问题时并不如一些传统算法。此外，当前的大模型 多数聚焦文字态，对跨模态的图片、音视频等尚未融合为统一框架。为了解决上述问题， 业界亦根据幻觉出现的原因，以及对推理任务的特征等，有针对性地进行了升级。

Q* ：尝试融合思维树、过程监督、合成数据等。据路透社消息，由 OpenAI 首席科 学家 Ilya Sutskever 率领的团队在今年取得了技术突破，将新的 AI 模型取名为“Q*”，能 够进行复杂的推理任务。虽然目前 OpenAI 尚未给出具体的模型情况，但参考目前业界的 最新成果，我们认为主要的改进方向可能在于：1）思维树(Tree of Thought)的迭代，其核 心思想是，让大语言模型对一个复杂任务进行拆解，分为多个小步骤，对每个步骤进行评 估，结合特定算法，提升模型解决复杂任务的能力。通过类似 AlphaZero 的方式，学习某 种价值函数/评估函数，最终辅以树搜索算法。2）过程监督（Process Supervision），这是 OpenAI 在 2023 年 5 月给出的提升大模型推理能力的方案，即用 Process Supervision 的 方式，为思维链中的每个独立推理进行反馈，被称为 PRM。根据 OpenAI 自身的技术报告， 采用 PRM 后，语言模型的数学能力显著提升。3）生成训练数据。如果上述方法中的价值 函数足够准确，这个方案可能能产生数据而不需要人类外来数据。同时，这个方案产生的 数据可以进一步用来训练语言模型，可能可以实现类似自举的效果。

LVM：视觉领域对大语言模型思路的延伸。2023 年 12 月，UC Berkeley 的三位计算 机视觉专家发布了 LVM（Large Vision Model），只使用图像数据进行训练和推理。LVM 的 核心思想是将图像序列视为一个高维的时序信号，通过一个编码器将其压缩为低维的向量 序列，然后用一个自回归模型来预测下一帧的向量，最后用一个解码器将预测的向量还原 为图像。虽然并未使用文字，但模型的思路借鉴了当前大语言模型的处理方式，这为处理计算机视觉问题提供了新的思路。

基于上述我们对模型层面上的技术路径、潜在问题的分析，我们认为 2024 年技术突 破点可能将围绕多模态、计算成本下探、智能体（AI Agent）等领域展开：

1）对压缩率继续优化。目前业内对 OpenAI 提出的“压缩即智能”这一假说的认可 度不断提高，更高的压缩率意味着大语言模型更高的智能度。当下提高压缩率的主要手段 包括了 Scale（提升模型规模与数据规模）与算法优化（SFT、RLHF 等）。这两种方法的 共通处都对数据量与数据质量提出了更高的要求，包括最近热传的 Q*方法在本质上也是高 度依赖于背后的数据质量。因此展望 2024 年，我们判断模型性能优化竞争的背后是对数 据源的竞争，掌握更好的数据质量与数据清洗、分类方法将在竞争中占据更大的优势。

2）围绕多模态进一步做探索。谷歌 Gemini 模型已经验证了原生多模态的可行，虽然 整体性能略逊于 GPT-4V，但在多模态间的切换能力已经达到甚至超越了 GPT-4V。随着 诸多训练技术、数据的升级，多模态能力的提升料将是全年算法领域最为重要的领域。参 考 OpenAI 的产品时间线，我们预计 2024 年二季度，OpenAI 的 GPT-4 升级版本有望发 布，并同样具备原生多模态的能力。

3）通过量化、蒸馏等技术，在保证性能的前提下降低模型的推理成本。随着大模型 商业化进度的不断加速，预计 2024 年推理成本的上升速度将会远超训练成本，因此如何 缩减模型大小以控制推理成本将是明年最重要的课题。量化技术是模型压缩的最重要手段 之一，将传统的表示方法中的浮点数转换为整数或其他离散形式，以减轻深度学习模型的 存储和计算负担。目前 4bit-6bit 的量化处理可以将模型体积缩减到四分之一的情况下，保 证模型精度基本不变。蒸馏通过从一个复杂的模型（称为教师模型）向一个简化的模型（称 为学生模型）转移知识来实现。EA-based 蒸馏方法分为了上下文学习（ICL）、思维链（CoT） 和指令跟随（IF），不仅仅是将 LLM 的常见知识转移到学生模型中，还涵盖了独特的涌现 能力。参考 OpenAI 对模型的量化与蒸馏，我们预计 2024 年，主流模型的使用成本将压 缩 1-2 个数量级，大幅降低调用的成本。此外，通过大模型产生合成数据，亦能够为一些 中小体量模型提供性能的提升，拓宽开源模型的使用范围。

4）AI Agent 的雏形有望在 2025 年出现。多模态技术的成熟将帮助模型更好地结合 文字与图片，AI Agent 的应用前景也变得日益明确，使其真正走近现实。OpenAI 的应用 研究主管 LiLian Weng 在接受路透社采访时表示，Agent 是大语言模型、记忆、规划及外 部工具的完美结合，其中大语言模型充当了系统的核心大脑。借助细致的封装操作以及对 外部数据的调用，Agent 成功地削减了因幻觉产生的误差。尽管现在，Agent 仍然更多地 被视为一个理想化的概念，受制于目前的算力传输速度、昂贵的成本以及外部 API 的兼容 问题，但预计在未来 3-5 年，随着多模态技术的广泛应用，Agent 有望成为 ToC 领域和人 机交互的关键入口。若多模态模型在 2024 年性能进一步改善，成本呈现数量级的下降， 智能体极有可能在 2025 年开始出现一些新的探索与尝试。

市场格局：头部公司更加接近 AGI，中长尾公司聚焦工程化创新。从目前主要的大模 型拥有方来看，超大科技公司基本在最领先模型层面占据优势地位，OpenAI、谷歌拥有通 用能力最强的模型，而当前大量的中等体量公司，则更多基于领先模型的思路，进行工程 实践层面的优化，在细分场景或某一环节进行特定的升级。以 LLaMA 为例，作为最领先 的开源模型之一，通过中小公司在工具引入、数据升级等的带动下，整体模型变种极为丰 富，形成了 AGI（通用模型）大公司领先，细分领域中小公司百花齐放的格局。

闭源、开源之争：预计闭源模型将保持 1-2 年的领先，但开源模型能吸收闭源模型的 理念技术进行升级。闭源模型通常由大型公司进行主导，在海外的代表为 OpenAI、谷歌 等，上述模型的研发基于微软、谷歌自身的云计算资源，以及海量数据资源，其模型的迭 代升级相对更为激进，叠加大公司自身较好的现金流与人员储备，其模型的升级速度较快， 创新亦较为充足，安全性亦有保障。但对于开源厂商而言，由于模型的商业化能力、性能 相对偏弱，因此大量的开源模型通过社区形势进行迭代。因此我们会看到，在头部公司的 闭源模型升级后，开源模型通常会借鉴闭源模型的思路，在工程化、数据维度等方面进行 相应升级，持续提升模型整体的性价比，吸引大量开发者加入迭代，亦或针对细分场景进 行针对性的微调。近期我们看到，包括 Mixtral（借鉴 GPT-4 的 MoE，强化代码能力）、 Vicuna（借助 GPT 生成的数据+LLaMA）等开源模型的推出，显示出开源模型对闭源模型 的借鉴与参考。

算力：市场主要矛盾从供给转向需求，关注 CoWoS 产能、ASIC、HBM 等

生成式 AI：需求料将维持强劲，持续推动 HPC、数据中心网络等相关领域需求。AI 对硬件的拉动亦是 2023 年美股半导体市场重要的催化剂。从 AI 带来的业绩增量来看，除 英伟达、AMD 等 GPU 厂商之外，与网络设备相关的公司亦有所受益，如数据中心硬件公 司迈威尔（光模块、交换机、计算等芯片）、Arista（交换机）、博通等亦有较好展望。随 着 AI 的应用持续得到提升，云平台底层架构料将持续革新，并带动相关配套硬件的持续增 长。

多模态：2024 年 AI 算法创新焦点，有望带动算力需求继续大幅增长。1）与处理纯 文字相比，处理同等信息量的图片内容的语言模型需要的算力是其 8-12 倍。目前，像 ViT 这样的模型在处理图片时的策略是将图片划分为若干固定大小的像素块，然后将这些像素 块转换为线性向量，接着像处理文字一样处理这些向量。以一个常规的 1920*1080 像素的 图片为例，其向量表示需要大约 24MB 的存储空间。在传统的纯文字语言模型中，24MB 的存储空间可以处理约 4000-6000 个单词。如果我们假设使用 500 个单词来描述图片中的 全部信息，那么处理图片所需的算力大约是处理文字的 8-12 倍。虽然这个估计可能不完 全精确，但它确实表明以当前的算力支持大量用户同时运行多模态语言模型仍是一个挑战。 2）算力瓶颈是中小型厂商参与多模态的主要限制。对于很多中小型厂商而言，多模态模 型开发的队列难以进入，主要原因依然是算力。多模态的部署和应用都受到算力瓶颈的限 制，由于多模态模型涉及多种数据类型，且结构的复杂性高，对算力的需求亦随之增大。 OpenAI 预计人工智能科学研究要想取得突破，所需消耗的计算资源每 3~4 个月就要翻一倍， 资金也需要通过指数级增长才能获得匹配。

资本开支：2024 年北美主要云厂商 Capex 预计同比增长 15%~20%，预算充裕背景 下，AI 带来的 ROI 将成为企业实际资本支出的主要决定因素。2023 年以来由于降本增效 等的推进，各家公司保持了相对保守的资本开支规模：亚马逊预计 2023 年全年开支为 500 亿美元，略低于上年同期 590 亿美元，物流领域的投入下降有望带动利润的释放，同时为 AWS 加强 AI 等领域投入提供空间；Meta 则将全年开支调低 30 亿。谷歌预计 2023 年总 资本支出将略高于 2022 年，表现在提高人工智能基础设施的投资和降低办公设施的投入。 展望未来，考虑到资本开支对成本的影响，以及互联网大厂对 ROIC 等指标的考核，我们 判断大型互联网公司在 2024 年资本开支总量增速将与收入增速基本吻合，但与人工智能 （数据中心、GPU）、云计算相关的资本开支将保持增长，在保证 AI 需求的同时，控制大 规模资本开支投入对利润带来的负面影响。

AI 算力变化：随着人工智能行业的持续发展，我们观察到行业内算力结构正在发生演 变，具体体现在：1）需求结构：随着多模态持续发展，训练端算力需求仍持续提高，但 考虑到训练门槛提高导致玩家数量减少，以及模型规模随着垂直领域持续分化而相对减小， 总体训练市场增速可能承压。同时，随着 AIPC 等边缘端 AI 产品持续发展，算力需求正在 从训练端向推理端迁移。2）网络结构：随着算力需求从训练端向推理端迁移，对应的网 络架构有望迎来变化，以太网占 IB 网络的比例有望提升，建议关注以太网交换机等企业的 业绩提升。3）产品结构：面对高昂的 GPU 成本，科技公司纷纷自研 ASIC 芯片，AI 芯片 正从通用 GPU 向专用 ASIC 芯片快速扩散，其中 HBM、先进制程代工、芯片定制开发服 务板块具备较好的业绩确定性。4）供需结构：当前 GPU 偏紧的供需环境主要受到 CoWoS 产能的限制，随着 2024 年台积电 CoWoS 产能释放，供需关系大概率将得到缓解，届时 重复下单等伪需求的消失可能导致市场规模预期的重置。针对我们看到的算力结构转变， 我们的具体观点如下：

1. 需求结构：算力需求逐步从训练端向推理端迁移。（a）训练端：训练端算力需求 伴随多模态而增长，但受玩家数量减少、垂直领域持续分化的影响，总体增速或存在压力。 正如我们先前所说，多模态带来的算力需求是语言模型的数倍，理论上将带来训练端算力 需求的持续提高，但考虑到多模态的竞争门槛随之提升，目前仅有 OpenAI 与谷歌等少数 玩家，玩家数量的减少或使整体需求增速承压。另一方面，AI 行业垂直领域持续分化，而 细分领域更偏好中小模型，中小模型占比的提升亦可能带来整体算力需求的增长压力。（b） 推理端：随着训练端算力市场格局的逐步稳定、AI 能力被应用在越来越多的细分领域、以 及多家科技公司纷纷推出自身的 ASIC 芯片（短期主要集中在推理端），整体市场的算力需 求或将逐步从训练端向推理端迁移。

2. AI 网络：短期 IB 技术路线明显占优，以太网有望后来居上。1）Infiniband 网络(IB 网络：是指通过一套中心 Infiniband 交换机在存储、网络以及服务器等设备之间建立一个 单一的连接链路通过中心 Infiniband 交换机来控制流量，能够降低硬件设备间数据流量拥 塞，有效解决传统/O 结构的通信传输瓶颈，还能与远程存储设备和网络设备相连接。2） 在处理大模型中较多的数据时，数据传输错误或数据丢失可能会导致训练过程中断甚至失 败，因此保证传输的可靠性尤为重要，而 IB 网路有效实现了保证。3）我们测算，英伟达自收购 Mellanox 业务之后，营收快速增长，由 FY2020 年的 13 亿美元，增长至 FY2024 年的 80 亿美元。但中期维度，随着 AI 算力负载逐步从训练端向推理端迁移，以及由此带 来的英伟达 GPU 市占率下移、前端 AI 网络和业务网络的兼容性要求等，我们判断以太网 在 AI 领域的占比有望快速提升，从而利好 Arista 等相关数通设备企业。

3. 产品结构：AI 芯片从 GPU 向 ASIC 扩散，建议关注 HBM、先进制程代工、芯片 定制开发服务等环节的业绩确定性。在通用 GPU 价格持续高企的背景下，谷歌、亚马逊、 特斯拉、微软、META 等大型科技公司将目光转向了寻找合作伙伴共同研发适合自身应用 环境的专用 ASIC 芯片。其中，亚马逊主要与博通合作，亚马逊主要与 AIchip&迈威尔合 作、特斯拉主要与 AIchip&三星合作。我们认为，考虑到训练端芯片的研发难度及开发计 划，短期内落地的 ASIC 主要集中在推理端，其中 GPU 与 ASIC 芯片的进展如下。

GPU 加速卡：台积电 CoWoS 产能有望在 24Q2-Q3 之间大幅增加，需紧密关注 市场需求预期的变化。（a）目前英伟达数据中心加速卡销量仍主要以高端的 A100/H100 系列卡为主，网络业务主要和其配套销售。需求层面，短期科技巨头 的军备竞赛、创业公司的积极涌入等，叠加主要参与者在模型构建环节的极大热 情等，均有望构成持续的需求支撑；供给层面，目前 A100/H100 仍主要受制于 HBM（高带宽内存）、先进封装（CoWoS）等，其中台积电 CoWoS 环节产能为 主要约束，考虑到封测设备的交货周期等因素，我们预计台积电 CoWoS 产能实 质性改善至少应在 2024Q2 左右。参考历史经验，短期偏紧的供给、供需的严重错配等，预计将导致下游客户出现 double booking、over booking 等现象。因此， 短期维度（至少 2024Q2 之前），无论是从订单流入、交付量、价格等维度，英 伟达数据中心业务均有望维持强劲势头，且持续保持季度环比向上。（b）AMD： AMD 不断加大在 GPU 加速卡领域中的产品布局，据公司在 23Q3 业绩交流会上 透露，MI300 将在 23Q4 出货，目前已有多家云厂商客户承诺部署 MI300，公司 预计数据中心部门的 GPU（含 MI300）营收 23Q4 将达 4 亿美元，在 2024 年将 超过 20 亿美元。

AI 芯片：公有云厂商加大 ASIC 芯片布局，短期主要集中在推理端。（a）除了 NVIDIA 与 AMD 的 GPU 解决方案外，大型公有云厂商扩大自研 ASIC 芯片亦将 成趋势。具体包括：Google 自 2023 年下半加速自研 TPU 导入 AI 服务器；根据 TrendForce 报道，2024 年 AWS 将扩大采用自研 ASIC，Trendforce 预计其出货 量有望翻倍成长。此外，Microsoft、Meta 等亦规划扩展自研 ASIC 计划。（b） 主要玩家及产品布局：高端 ASIC 产品已迭代至 3-5nm，博通和迈威尔走在行业 前列。高端 ASIC 市场（针对云计算、网络、视频、电信服务和企业数据中心存 储控制器领域的定制芯片设计）的主要供应商包括博通、Marvell、英特尔、联发 科技和 Socionext 等。博通推出了最新的 5nm ASIC 设备和 7nm ASIC IP，支持 高达 112G SerDes 传输速率。Marvell 提供广泛的 ASIC IP，涵盖 3-14nm 制程， 支持 64 位 ARM 处理器，传输速率可达 112Gbps SerDes。英特尔推出了结构化 ASIC 产品 eASIC，传输速率最高达 112Gbps，作为 FPGA 和标准单元 ASIC 之 间的中间技术，其产品涵盖 N5X、N3XS、N3X 系列。联发科技推出了 7nm ASIC产品，传输速度最高达 112G SerDes。Socionext 提供高性能的定制 ASIC 和网 络 ASIC，采用 5-28nm ASIC 制程技术。

关注领域 1—HBM：AI 芯片数据处理速度的关键，具备较高业绩确定性。1）搭 载情况：未来两年将向 HBM3E 过渡。当前 NVIDIA 主流高端 AI 芯片 H100 与 A100分别搭载HBM3与HBM2E产品，AMD量产AI芯片MI250则搭载HBM2E。 而展望 2024 年，根据 Trendforce 报道，英伟达有望推出搭载 HBM3E 的 H200 和 B100，并通过整合自家 CPU 与 GPU 推出 GH200 以及 GB200。AMD 2024 年主流产品为搭载 HBM3 的 MI300（信息来自公司发布会），Trendforce 预计其 下一代 MI350 将采用 HBM3E，预计 24H2 开始开启验证，25Q1 开始产品放量。 2）格局变化：HBM3E 产品处于验证阶段，订单分配、产能扩张为格局变化的重 要因素。AI 芯片性能的快速提升推动 HBM 持续迭代，2022 年，SK 海力士、三 星占据了 HBM 大部分市场份额（分别占据 50%、40%的市场份额）。美光通过 直接布局 HBM 的下一代产品 HBM3E，已率先送样至 NVIDIA 进行资质验证，有 望带来格局变化。根据美光 FY24Q1 业绩会，目前美光 HBM3E 产品已进入NVIDIA 资质验证的最后阶段，有望供货 H200 与 GH200，美光预计 2025 年 HBM 市占率将与 DRAM 整体持平（约 20%-25%）。此外，根据 TrendForce 数据，SK 海力士和三星亦在 2023 年 8 月和 10 月向英伟达送样 HBM3E（24GB）。我们认 为，NVIDIA 有意培养多个供应商，将根据三家厂商的送样结果分配订单比例， 分配结果与各家的产能提升进度，将共同带来新的竞争格局。

关注领域 2—先进制程代工：主流产品向 5nm 及以下迁移，先进制程成为代工 厂商重要业绩驱动。1）需求端：预计 2024 年主流 AI 训练卡基本切换至 5nm 及 以下芯片，其中 H100 与 MI300 系列皆采用台积电 5nm 及以下的先进制程工艺， 而根据 Digitimes 报道，英伟达下一代 GPU 将有望采用台积电 3nm 制程工艺， Gaudi 3 将有望采用台积电 5/4 纳米制程工艺。2）供给端：业绩上看，2018 年 以来，7nm 及以下制程工艺占台积电总营收的比例持续上升，截至 23Q3，台积 电 7nm 及以下制程工艺营收占比已提升至 59%，先进制程已成为业绩增长的主 要驱动力。产能上看，台积电计划在 2025 年推出 2nm 制程工艺，生产工厂将建 设在中国台湾，美国工厂则主要用于 5nm 与 3nm 制程工艺。除台积电外，英特 尔与三星亦积极进行先进制程的工厂建设，以满足手机、服务器、PC 的性能提 升需求。

应用：关注边缘 AI、软件、自动驾驶、机器人等

边缘 AI：AI PC 等料将成为边缘端最先落地的领域

AI 推理：边缘 AI 重要性不断凸显，成本结构优化&数据隐私等因素是主要推动力。（a） 简单来说，混合式 AI 是终端侧 AI 和云端 AI 协同工作，在适当的场景和时间下分配 AI 计 算的工作负载，以提供更好的体验，并高效利用资源。（b）据高通在 2023 年 5 月发布的 《The Future of AI is Hybrid》白皮书显示，混合式 AI 在成本、能耗、性能、隐私、安全、 个性化等方面都拥有足够的优势，能为生成式 AI 在全球范围内大规模扩展普及提供支撑。 如：在混合式 AI 架构下，通过将一些处理任务从云端转移到边缘侧终端，可以减轻云基础 设施的压力，进而减少开支。（c）我们认为在混合式 AI 时代，边缘计算扮演的角色日益 重要。通过更低的运行成本、更低的能耗、更快的响应速度等优势，边缘计算可更加有效 地突出用户使用个性，对于生成式 AI 的商业落地有着重要促进作用。

技术支撑：模型蒸馏推动成本下降，为边缘端 AI 的普及提供可能。（a）大模型蒸馏 指的是将大型、复杂的模型（通常称为“教师模型”）的知识转移到一个更小、更高效的 模型（称为“学生模型”）上。在传统的监督学习中，模型通常使用硬标签（例如，猫或 狗）进行训练。在模型蒸馏中，学生模型使用教师模型输出的“软标签”（即概率分布） 进行训练，这有助于捕捉教师模型的细微差异。通过蒸馏，可以在保证大模型能力的前提 下，缩减参数量从而降低成本。以 Open AI 为例，我们观察到通过蒸馏小模型，OpenAI 在保证性能基本相同的情况下，GPT 模型在推出后的平均每半年时间，可以做到成本下降 到原来的 1/3-1/4。基于这种方法的可持续性，展望未来 1-2 年我们有望看到成本端的持续优化。（b）由于智能手机、智能电脑等边缘终端的硬件限制，直接在此类硬件设备上运行 复杂的 AI 模型将变得具有挑战性，大模型蒸馏技术提供了一种可行的解决方案。通过模型 蒸馏的方式，开发者根据特定的应用和硬件需求定制模型，这种灵活性对于开发适用于各 种不同硬件型号和配置的应用至关重要。 AI PC：是指配备先进芯片的 PC，能够直接在 PC 上（而非云端）运行大型语言模型、 以及由该技术支持的应用程序。从功能上来看，AI PC 通过异构计算可以不断提高生产力。 从商业模式上来看，AI PC 可实现降低算力成本&数据隐私保护。

从功能上来看，AI PC 通过异构计算可以不断提高生产力。联想在 2023 年 10 月的第九届联想创新科技大会上透露，他们认为 AI PC 具有以下四大功能：个人 基础模型、从不停止学习、具备天然交互能力、能更快&更安全地提供巨大生产 力。其中，（a）个人大模型：是指本地大模型+云端大模型+个性化本地知识库的 综合体。其中，远在云端的大模型可以通过模型压缩技术部署在本地设备，使得 AI PC无需联网也可以实现实时推理和高性能计算。（b）为了支撑上述功能，AI PC 需要具备智能混合算力，实现 CPU+GPU+NPU 的异构计算能力。

从商业模式上来看，AI PC 可实现降低算力成本&数据隐私保护。AI PC 通过在 本地运行调整后的或者压缩后的模型，将计算资源由云端拓展至本地，在一定程 度上降低 IT 算力成本。同时，针对于 AI 创业公司，AI PC 等边缘端智能硬件， 可以更好地保护其数据知识产权。

从产业的发展趋势来看，AI PC 在核心处理器、内存等细分领域有较大的升级。其中， 在核心处理器方面，我们看到产业链相关公司纷纷在 2024 年量产推出核心处理器，可做 到处理数十亿到一百多亿参数的模型。在内存方面，伴随着数据处理量的增多，AI PC 的 DRAM 规格也逐渐向 DDR4/DDR5 方向升级。

硬件——核心处理器：2024 年为量产元年，可处理数十亿到数百亿参数的模型。 从 AI PC 核心处理器的厂商布局来看，2023 年苹果、高通、英特尔、AMD 等厂 商先后发布 AI PC CPU 产品，预计将于 2024 年开始量产出货。从产品参数来看， AI PC CPU 的算力在稳步提升，目前可以处理数十亿到一百多亿参数的模型。如： 苹果 2023 年 10 月发布的 M3 Max 芯片，可以处理数十亿参数的模型；高通拟 于 2024 年出货的 Snapdragon X Elite 可处理约 130 亿参数的大模型，可以达到 英特尔 i9 13900KS+英伟达 RTX 4090 的性能。

硬件——内存容量增加，DDR5 渗透率或将进一步提升。（a）由于 AI PC 等智能 终端硬件的升级，导致其数据处理量大幅提升，AI PC 需要更高带宽的内存提升 整体运算性能，高速传输芯片势必同步升级，对应传输接口须由 PCIe 3.0 升级 至 PCIe 4.0/5.0。因此，DRAM 规格也将由 DDR4 升级至 DDR5。Omida 预测， 2023 年 DDR5 渗透率约为 38%（手机端等贡献占比较大），预计 2024 年 DDR5 市占率将超过 50%。

应用场景：Gen AI 在 2C 领域应用较为有限，目前主要是一些偏娱乐、非严肃内容生 成等场景，用户粘性相对较低。以 ChatGPT 为代表的 C 端入口的流量陷入了停滞的状态。 根据 SimilarWeb 的数据，2023 年前五个月 ChatGPT 全球访问量环比增幅分别为 131.6%、 62.5%、55.8%、12.6%、2.8%，而 6 月份数据显示 ChatGPT 的访问量环比下降 9.7%， 首次出现了负增长。普通用户经过半年的新闻报道以及实际体验对本轮大语言模型 AI 的能 力与特点拥有了最基本的了解，新鲜感不再能刺激大量用户重新涌入 ChatGPT 之中。同 时 ChatGPT 除了实时问答的亮点外，主要的使用场景仍是文字归纳、翻译、文字补全等 偏办公类用途，对于大多数个人用户而言缺乏较强的需求黏性。

AI PC 渗透率：短期看，产业界对明后年渗透率有分歧，但对后续长期发展趋势均看 好。短期来看，从产业链中的公司描述来看，英特尔对明后年 AI PC 的渗透率相对乐观， 义隆电子和华硕认为 2025 年 AI PC 渗透率将迎来实质性增长。

英特尔在 i 系列芯片发布会预计未来 2 年 AI PC 累计出货量为 1 亿台。我们假设 第一年出货量为 4000 万台，第二年为 6000 万台，对应搭载英特尔处理器的 AI PC 渗透率，2024-2025 年分别为 11%、17%。

义隆电子将 AI PC 区分为云端 PC与终端应用 PC，其中 2025年终端应用 AI PC 预计将迎来显著成长。（a）其中云端 PC 是指，比如订阅微软 Copilot 服务。公 司在 23Q3 法说会上透露，公司预估此类 PC 2024 年市占率约 20%~30%，由于 用户付费即可使用，对于后续换机贡献相对较小。（b）终端应用 PC，是指如搭 载 Qualcomm 或联发科 ARM-base CPU，依托其 AI 能力，在总结电子邮件、撰 写文稿与生成图像等方面可大幅提高生产力。终端应用 PC 在使用过程中需要消 费者重新购买 PC 方能体验此类 AI 功能，在一定程度上可以带来换机需求。义隆 电子预估 2024 年终端应用 AI PC 渗透率相对较低，2025 年会有显著的成长。

华硕预计 2025 年之后 AI PC 渗透率有望达到双位数水平。据公司联合创始人 Samson Hu 在台南成功大学举办的《国立大学电气工程系校友会年度技术》会 议上透露，目前 AI PC 仍处于起步阶段，2025 年及之后 AI PC 渗透率才有望达 到双位数水平。

Canalys 认为 AI PC 是指搭载 AI 加速功能的处理器（苹果 M 系列、高通 Snapdragon Elite X、AMD Ryzen 7040/8050、英特尔 Meteor Lake）。该机构在 对外发布的 AIPC 渗透率相关报告中预计全球 AI PC 渗透率将由 2023 年的 10% 提升至 2027 年的 60%。

AI PC 产品导入早期预计将主要被企业和内容创作者所采用。考虑到 AI PC 的硬件（处 理器及内存）均迎来较大升级，价格提升幅度相对较大（官网数据显示每代产品价格提 升幅度约 5%附近），我们判断：AI PC 早期将主要被企业和内容创作者采用。而未来 AI PC 在消费者领域是否放量，取决于未来是否会出现杀手级应用，主要原因是现有的 PC 可以满足大部分日常活动以及娱乐活动中的云 AI 应用。

苹果电脑有望带动 ARM 架构渗透率进一步提升，其他 ARM 芯片供应商仍面临系统& 生态兼容的挑战。（a）Canalys 数据显示，受益于苹果自研 M 系列芯片有利影响，ARM 架构的 PC 芯片市占率近些年来不断提升，目前渗透率已提升至 10.6%。（b）我们认为， 苹果在 PC 领域渗透率能够快速起量，主要原因是公司依赖硬件加速模拟器 Rosetta 2 可 以很好地做到与 x86 系统的兼容，同时苹果在 APP 领域也有丰富的软件生态，可以很好 地服务于下游用户。相反，我们认为其他 ARM 芯片供应商尽管在 2024 年有望推出部分芯 片产品，但在 X86 系统兼容、应用程序的丰富度上，仍面临着较大挑战。

软件：预计 2024 上半年开启商业化，下半年有望加速

2023 年 2 月，微软发布 Microsoft 365 Copilot 的 Demo，打响了软件融入 AI 能力的 第一枪，随后主流软件厂商均开始加速推进核心产品中 AI 能力的构建。而后，主流软件 SaaS 公司自 2023 年 10 月左右开始生成式 AI 产品的正式发布，2023 年末开始 AGI 的初 步导入。立足当下，伴随主流公司的产品均开始进入正式商用或是公开预览状态，我们认 为 2024 年将是 AGI 能力商业化兑现的元年，而我们亦将对不同子板块分别进行展望。

应用软件：主流产品已经开启商用，货币化效果仍需紧密跟踪

产品体系：产品路线均已明晰，首个 AGI 版本陆续发布。2023 年 9 月 13 日，Adobe 宣布经历了超过 20 亿张图像生成的测试后，Adobe Firefly 和 Firefly Web 应用、Adobe Firefly for Enterprise 已经进入正式商用，Photoshop 中的 Generative Fill 和 Generative Expand、Illustrator 中的 Generative Recolor 以及 Adobe Express 中的 Text to Image 和 Text Effects 等功能亦将在 2023 年 11 月 1 日起正式可用。9 月 20 日，Salesforce 在 Dreamforce 大会上宣布了 Sales GPT、Service GPT、Commerce GPT 等产品的普遍可 用，以及其他产品的测试&商用时间安排。9 月 21 日，微软在官方博客宣布了 Microsoft Copilot 企业客户的 GA 时间，计划在 11 月 1 日实现企业版 GA。9 月 29 日，ServiceNow 正式发布嵌入 AGI 能力的新版本 Vancouver。此外，Workday、Intuit 等主流应用软件厂 商亦在多个产品线中融入了 AGI 的能力。从商用功能的完整度看，Microsoft Copilot 基本 实现了 Office 主流功能的 AI 赋能；Adobe 的图像相关功能已经较为完善，而视频、3D、 音频等功能仍有待发布；Salesforce、ServiceNow 等产品逻辑、落地场景较为复杂的应用 平台仍将进行更多功能的开发，将 AI 能力与应用场景进行更为深度的融合等。

定价体系&业绩兑现：工具类软件有望率先兑现业绩，平台厂商能力导入顺利。定价 体系方面，我们观察到主流厂商的定价方案基本分为两类。1）产品价格普涨：Adobe 是 这类方案的典型代表，其创意云套件订阅价格在 2023 年 11 月 1 日进行普涨，平均价格涨 幅在 8%-9%，显著高于以往数次涨价 3%-5%的幅度。涨价后，Adobe 将每月赠送用户一 定数量的积分，用户使用 AGI 功能时（生成、修改、填充、重新上色等）则会消耗积分， 积分用尽后用户可以用 4.99 美元/月的价格购买额度 100 的积分包，积分包可叠加。2） AI 额外定价：微软、ServiceNow、Salesforce、Zendesk 等厂商均采用这一定价方式。其 中微软的 AI 产品仅面向使用 Microsoft 365 E3&E5、Business Standard &Premium 的客 群开放，用户体量约 1.6 亿；ServiceNow 的 AI 能力仅面向 Pro 和企业版本的客群开放， 该客群占比约 40%，相较无 AI 产品，AI 价格涨幅为 60%（折扣后约 30%）；Salesforce 的 AI 能力目前仅面向 Unlimited 版本开放，该版本用户可以直接使用 Sales GPT，而 Service GPT 仍需额外支付 50 美金/月获取。我们认为，定价体系的区别主要缘于产品逻 辑的差别，作为工具软件，Adobe 标准化程度极高，AI 功能能够直接预集成在创意云产品 中向所有用户发布，Adobe 也有充分意愿通过此举快速培养用户习惯、占领用户心智；而 微软 Office 套件尽管标准化程度也较高，但也涉及到较多企业内部文档、数据的关联调用， 具有一定的落地门槛；至于 Salesforce、ServiceNow 等复杂逻辑的应用平台则更需要用 户高质量的数据集、完备的平台功能、充分的数据打通&系统集成作为前置条件。当然， AI 能力的渗透速度、兑现至收入的节奏也与上述逻辑相关，工具类软件的用户渗透料将更 快。

基础软件：数据管理、DevOps 软件料将率先受益

数据库：数据是实现差异化 AI 能力的核心要素。模型预训练阶段需要大规模、多类 别、高质量的训练数据，在模型调优阶段，垂类小数据集、提示词工程同样重要。过去由 于存储技术、资源和数据库技术的限制，非结构化的数据无法得到有效保存和调用。但随 着存储技术和云计算的不断发展，企业可以拥有充足的、可扩展的存储资源和存储方法。 机器学习、自然语言处理、图像识别等人工智能技术也增加了对海量非结构化数据的需求。 由此，能够实现海量数据存储、管理、治理的数据湖，实现批量数据的清洗、预处理、特 征工程的数据仓库，实现历史知识库存储、快速关联的 Nosql 数据库（包括向量数据库）， 实现实时数据的集成、高并发查询&处理的流数据引擎等数据管理市场都将受益于 AI 的高 速发展。与此同时，大语言模型能够较好地实现自然语言向 Sql 等专业的数据库操作语言 的转化，降低数据分析、机器学习等领域的进入门槛。2023Q3，MongoDB 宣布向量数据 库 Atlas Vector Search 正式可用，开发人员可以将其与 MongoDB 中的其他查询功能结合 使用；Elastic Search 表示客户利用语义搜索、向量搜索和混合搜索，将大型语言模型与 他们的私有数据结合起来，数百名付费用户使用 ESRE（相关性引擎）进行矢量搜索； Snowflake 宣布 2023 年三季度 Snowpark 消费环比增长了 47%，10 月份的消费量自去年 以来增长了 500%以上，目前收入占比低于 10%。

软件开发：GitHub CoPilot 未必能成为胜负手。对于软件开发环节，此前在《全球人 工智能 AI 行业系列报告 6—人工智能 AI 将如何影响软件行业》（20230509）中我们判断， 大语言模型普及之后，GitHub CoPilot 能力的强化大幅提升了开发效率，开发链条的核心 有可能由项目管理向代码编写&托管转移，这在一定程度上可能削弱 Atlassian 的竞争优势 和平台化潜力，而更为利好微软的全链条整合，与 GitHub 在同一环节竞争的 GitLab 更有 可能受到直接冲击。但这一判断目前来看并不完全正确。1）代码安全：GitLab 于 2023 年 6 月调查了 1000 多名软件开发、IT 运维和安全领域的贡献者和领导者，发现 79%的受 访者担心 AI 工具访问私人信息或知识产权。相较于立足开源社区、以中小企业为主的 GitHub，GitLab 主打的本就是面向企业客户的更强大的安全、隐私、权限控制，而这正是 代码生成工具最大的痛点。目前，Gitlab 和谷歌代码生成模型 Codey 合作，一方面提供 Codey 的专有实例部署，另一方面允许用户通过 Vertex AI Codey API 微调模型，保障了 企业用户的安全、定制化代码生成效果。2）AI 赋能其他开发环节：根据 Gartner，开发 者平均只有 25%的时间用于编写代码，因此 Devops 中的 AI 应关注的不仅仅是代码编写， 同样需要赋能安全分析、源代码检查&测试以及项目管理等环节，单一节点的能力提升并 不一定能够实现全链路的整合，而 GitLab、Atlassian 等也在其他节点融入 AI 功能。因此， 我们认为 GitHub CoPilot 未必能成为胜负手，作为同时拥有企业级源代码管理和 Devops 全链路管理平台的 GitLab 反倒有望成为 AGI 浪潮下更大的受益者。

系统监控：AI 收入有望伴随应用爆发、IT 系统技术堆栈复杂化而显著增加。与其他 应用类似，大模型在运行过程中仍然需要对于性能指标进行实时的监测和分析，包括 CPU 和 GPU 的利用率和负载情况、内存和存储使用情况、网络带宽和延迟、模型训练和推理 速度，以及模型的异常情况和错误信息等，这依然需要 ITIM、NPM、日志管理工具的配 合。但与此同时，考虑到大模型本身的特殊性，在训练和部署环节同样需要专用的工具完 成相关指标的监控、调整和可视化，其中包括 1）实验管理：在训练环节对于学习率、正 则强度、批量大小、迭代次数等超参数空间的系统性搜索，选择最优超参数组合，并记录 和可视化训练、评估过程；2）性能监控：在推理环节对于损失函数、准确率、F1 值等各 类模型性能指标的监控和可视化，横向&纵向比较模型的性能变化。我们看到，目前 Datadog 已经在 GPU 基础设施、API 调用、向量数据库等 AGI 各相关技术栈进行全面布 局，提供各个领域的性能监控能力。Datadog 也在 2023 年三季度财报中表示，正在开发 自己的 LLM 可观测性产品，这将有助于监测和分析大型语言模型的性能和行为，为客户提 供更多洞察。这也意味着 Datadog 将和大模型专用监控工具领域 Weights&Biases、Comet ML、Arize 等展开竞争。2023 年三季度，Datadog 表示 AGI 原生客户约占整体 ARR 的 2.5%，目前主要是模型提供商贡献收入，而后续 AI 应用的爆发有望为 ARR 带来更多增量 贡献。

信息安全：攻防同时升级，安全分析率先产品化

AGI 是一把双刃剑，在提升商业软件开发效率的同时，也提升了恶意软件的开发效率。 进入 2023 年，我们看到全球面临的网络攻击数量显著提升。根据公司公告，2023 年 9 月， 国际自动化巨头江森自控遭到大规模勒索软件攻击，该攻击对公司的许多设备（包括 VMware ESXi 服务器）进行了加密，影响了公司及其子公司的运营，勒索金额高达 5100 万美金；10 月，美国知名的酒店和娱乐巨头美高美因预订系统遭到入侵损失收入高达 1 亿美元，这其中并不包括声誉受损、网络修复、合规罚款等更广泛的损失。网络攻击事件 将驱动企业安全防范体系加速升级迭代，新一代端点安全、SASE、云安全等供应商有望 受益。从产品化层面，LLM 和安全领域的融合主要集中在安全分析领域，对于安全运营团 队（SOC）而言，大语言模型的引入能够显著提升安全信息的可读性，并辅助生成易于理 解的安全事件解决方案，降低安全运营的门槛。基于此，CrowdStrike 发布了 Charlotte AI， 在基于海量安全数据训练模型的同时，Charlotte AI 亦将与 CrowdStrike 的 OverWatch、 Falcon Complete 和 Intel 团队建立独特的连续人工反馈循环，持续优化模型生成质量，使 得初级的安全分析师能够产生高级安全分析师的效果；Palo Alto 亦在近期发布了后续的AI 路线，希望通过庞大的数据集、信号和噪声的分离以及海量应用场景的测试消除人工智 能带来的幻觉问题，提供精准人工智能的产品。公司希望通过精准人工智能和生成式智能 的结合，在网络+云+SOC 运营三个领域整合点解决方案，降低人力参与，提供高度自动 化的平台产品。定价方面，Crowdstrike 在近期的 Falcon 大会上率先发布 Charlotte AI 的 定价，定价水平为 20 美元/端点/年，相较其核心端点安全产品涨幅在 25%-30%。

自动驾驶：预计多模态带来产业实质性突破

技术进展：2023 年或有进展但整体不成熟，关注后端模拟标注等板块。特斯拉 FSD 与机器人打通了软件底层模块，实现算法一定程度上的复用，因此我们重点关注 FSD 的 进展。2023 年 11 月末，马斯克在社交平台 X 上通过回复表示，特斯拉 FSD V12 版本已 推送给内部员工，我们预计 FSD V12 将在 2023 年取得一定进展。但考虑到自动驾驶的技 术复杂度、数据采集&训练所需时间等因素，我们认为短期内 FSD V12 与理想状态下的自 动驾驶仍具备一定差距，建议关注 FSD 后端模拟标注板块。

商业化落地：L3 商业化有望受成本降低所驱动，L4+自动驾驶仍待技术突破。1）2C 端：特斯拉 FSD 在北美地区的渗透率较高，截至 2023 年 3 月其存量渗透率约为 28%， 渗透率增速已出现减缓，主要由于受特斯拉 FSD 技术端落地速度的影响。2）2B 端：2023 年 6 月，马斯克通过 X 的官方账号表示，特斯拉 FSD 除 2C 端外，亦可通过向其他车企 授权使用Autopilot或FSD功能来进行收费。考虑到采用自动驾驶技术需要车企在硬件上， 与特斯拉软件算法进行调整测试，我们预计短期内较难确认明显收入。3）我们认为，虽然自动驾驶在商业化道路上存在较多难点（政策、数据、算法训练、调试等），且特斯拉 FSD V12距离 L4+自动驾驶仍存在一定距离，但在 L3自动驾驶层面有望带来成本端优化， 有望推动 L3 级别自动驾驶的商业化进程。

互联网：货币化能力、运营效率提升均值得期待

互联网：多模态的融入将带来更多想象空间。2023 年，大语言模型主要聚焦在文字 与 2B 领域，而对互联网公司而言，虽然 GenAI 能够带来运营效率的提升，降低成本，但 由于互联网产品本身更多是文字、图片、音视频的融合，因此单一模态的 GenAI 产品难以 深度改造现有互联网产品，更多以图片、文字生成的形式出现，并未颠覆现有模式。展望 后续，随着多模态的引入，互联网产品本身可改造的领域将迅速增加，并在交互模式、搜 索、电商、流媒体等领域带来显著的变化。

搜索：当前以助手形式出现，但多模态引入后，搜索引擎的入口属性将再次提升。 目前，微软 Bing、谷歌 SGE 均已经将 AI 引入，其中微软 Bing 采用了 GPT-4 的压缩版本，谷歌采用了最新的 Gemini 模型。基础形态上，双方均会针对开放 式的搜索问题进行内容生成，并引入搜索数据源，承担助手角色，微软在助手的 形态上更为积极，推出 Deep Search，拓展搜索的广度。但在助手之外，谷歌则 与电商等形态融合，通过文字与图片的关联，引入电商信息和广告，尝试进行货 币化。我们预计，GenAI 对搜索引擎的大规模重塑将在 2024 年二季度末开始， 主要观察节点在于多模态模型性能的提升以及单次调用成本的回落。后续来看， 不仅电商入口，视频等入口的属性亦将通过 GenAI+多模态得到显现。

电商：通过物料生成带动商家效率的提升，AI 对导购带来影响。亚马逊作为全 球最大的电商平台与云基础设施平台，率先采用 GenAI 对电商的营销进行升级， 并整合营销线索。此外，根据 salesforce 的统计，在北美的假日季，XSLX 大约 510 亿美元的交易额受到 AI 影响，主要应用领域包括有针对性的优惠、产品推 荐和生成的人工智能聊天服务等。Adobe 的数据显示，大约三分之一的用户群体 在参与消费时会使用 AI 工具，并且用户以年轻群体居多。AI 赋能：开始对用户 电商交易习惯产生一定影响。

社交媒体：AI 有望带来活跃度的提升。对于社交媒体而言，用户交互方式的变 化以及新功能的加入，必然会带来用户活跃度、在线时长的提升，从而带来广告 库存的增长。根据 Sensor tower、data.ai 数据，自年中主要互联网公司开始发 布 AI 相关的产品后，包括 Meta、YouTube 在内，整体 DAU/MAU 的比例在持续 提升。后续来看，若 GenAI 引入到短视频、社交等领域，上述领域公司的用户 有望进一步增长，并带动广告加载的持续提升。

内容生成：有望快速降低专业内容制作成本，并为短视频等 UGC 内容的扩张提 供工具。作为互联网领域中内容投入成本最高的细分领域，流媒体公司持续投入 现金流以生产大量内容。但后续来看，随着文生图乃至视频的引入，相关流媒体 公司的制作成本料将降低，目前包括迪士尼在内的公司亦开始进行相关研究，提 高内容制作的效率。在 UGC 领域，以字节跳动旗下的视频剪辑软件 CapCut 为 例，2023 年上半年， data.ai Intelligence 显示，TikTok 与 CapCut 的跨移动 使用指数最高（62%），比 Snapchat 高 15 个百分点，比 Instagram 高 19 个 百分点。CapCut 是将 AI 融入其模板、特效和滤镜产品的先行者。其在 2023 年 4 月将 AI 生成模板和特效引入其 iOS 应用程序后，下载量激增，收入也随之 持续增长。公司还为 ChatGPT 用户发布了一个 CapCut 插件，以方便他们利 用 AI 技术制作更精良的视频内容。因此我们认为，随着多模态在 2024 年的逐 步落地，奈飞、迪士尼等流媒体公司的制作成本有望一定程度回落，同时短视频 的内容供给料将快速提升。

编辑：火腿肠