2025年寒武纪研究报告:云边端共铸国产算力脊梁,软硬件同迎寒武破晓时代

  • 来源:东海证券
  • 发布时间:2025/07/02
  • 浏览次数:2371
  • 举报
相关深度报告REPORTS

寒武纪研究报告:云边端共铸国产算力脊梁,软硬件同迎寒武破晓时代.pdf

寒武纪研究报告:云边端共铸国产算力脊梁,软硬件同迎寒武破晓时代。寒武纪是国内稀缺的云端AI芯片厂商,提供云边端一体、软硬件协同、兼顾训练与推理的系列化智能AI芯片产品和平台化基础系统软件。公司业务主要分为云端产品线、边缘产品线、IP授权及软件三块,产品面向互联网、金融、交通、能源、电力和制造等领域的复杂AI应用场景提供算力,赋能产业升级。云端产品线主要提供云端AI芯片、加速卡、训练整机等,涵盖模型训练与推理,目前已迭代至思元590系列;边缘产品线以思元220为主,主要服务于智能制造、智能家居等边缘计算场景;IP授权及软件主要包括以寒武纪1M为主的终端智能处理器IP以及基础软件开发平台Cambr...

1.国产耀眼“芯”光,业绩腾飞在即

1.1.云端 AI 芯片国产化稀缺标的,自研硬件与平台软件双轮 驱动

(1)寒武纪是国内稀缺的 AI 芯片设计公司,提供云边端一体、软硬件协同、训练推理 融合、具备统一生态的系列化智能芯片产品和平台化基础系统软件。寒武纪成立于 2016 年, 并于 2020 年上市,成立以来专注于人工智能芯片产品的研发与技术创新,致力于打造人工 智能领域的核心处理器芯片,推出的产品包括但不限于思元 100、220、270、290 和 370 芯 片等,涵盖云端、边缘端和终端产品,产品广泛应用于服务器厂商和产业公司,面向互联网、 金融、交通、能源、电力和制造等领域的复杂 AI 应用场景提供充裕算力,推动人工智能赋 能产业升级。

(2)按产品线划分,寒武纪业务主要涵盖云端、边缘端产品线及 IP 授权及软件三大块。 1)云端产品线方面,主要为云端智能芯片及加速卡和训练整机。云端智能芯片及加速 卡是云服务器、数据中心等进行人工智能处理的核心器件,其主要作用是为云计算和数据中 心场景下的 AI 应用程序提供高性能、高计算密度、高能效的硬件计算资源,支撑该类场景 下复杂度和数据吞吐量高速增长的 AI 处理任务;训练整机通常集成多颗 AI 芯片,以玄思 1000 智能加速器为例,玄思 1000 智能加速器整机在 2U 机箱内集成了 4 颗思元 290 智能 芯片,2 台玄思 1000 加速器与 CPU 服务器可组成一套包括 8 张加速卡的整机系统,可实 现 AI 算力多向扩展,满足性能、扩展性、灵活性、鲁棒性(Robustness,反映一个系统在 面临着内部结构或外部环境的改变时也能够维持其功能稳定运行的能力)的要求。 2)边缘产品线指边缘智能芯片及加速卡,可支持边缘计算场景下的智能数据分析与建 模、视觉、语音、自然语言处理等多样化的 AI 应用。边缘计算一方面可有效弥补终端设备 计算能力不足的劣势,另一方面可缓解云计算场景下数据安全、隐私保护、带宽与延时等潜 在问题,可应用于智能制造、智能零售、智能教育、智能家居、智能电网、智能交通等众多 领域。 3)IP 授权及软件主要包含终端智能处理器 IP 和基础系统软件平台。终端智能处理器 是终端设备中支撑 AI 处理运算的核心器件,例如近年来各品牌旗舰级手机上与图像视频、语音、自然语言相关的智能应用均依靠终端智能处理器提供计算能力支撑。为了提升性能降 低功耗,同时节省成本,终端智能处理器通常不是以独立芯片的形式存在,而是作为一个模 块集成于终端设备的 SoC 芯片当中。公司的终端智能处理器 IP 产品主要有 1A、1H 和 1M 系列;基础系统软件平台方面公司主要提供统一的平台级基础系统软件Cambricon Neuware (包含软件开发工具链等),打破不同场景之间的软件开发壁垒,无须繁琐的移植即可让同 一人工智能应用程序便捷高效地运行在公司云边端系列化芯片与处理器产品之上。

(3)以思元系列芯片为代表的公司云端产品线迅速起量,2024 年已开始显著贡献营收。 2023 年及以前,公司绝大部分营收主要由智能计算集群系统提供,即公司以自有的思元系 列芯片加速卡产品为核心,基于 Cambricon Neuware 基础系统软件平台,为客户提供定制 化的软硬件整体解决方案,以科学地配置和管理集群的软硬件、提升运行效率,公司积极参 与并中标国内各类智算中心项目,该部分营收占据整体营收 60%以上。同时,公司积极推进 云端思元系列芯片研发,并持续拓展客户市场,助力 AI 应用落地,2024 年云端产品线收入 大幅增长,达 11.66 亿元,同比大增 1187.78%,占总营收的份额也从 2023 年的 12.77%上 升至 99.30%,体现出公司 AI 芯片市场竞争力不断上升,规模效应有望逐步显现。

(4)公司主要采用 Fabless 业务模式,上游供应商包含晶圆代工及封测厂、芯片 IP 授 权及 EDA 工具厂商、服务器厂商等,下游客户涵盖各行业,但集中程度较高。公司在完成 芯片设计后,将最终的芯片版图交付给代工厂进行晶圆代工,然后委托日月光或 Amkor 等 封测厂商完成芯片的封装测试,再由电路板厂商使用芯片生产出加速卡(即包含智能芯片的 电路板),最后将加速卡销售给客户。公司自上市以来,前五大客户销售占比一直维持 80% 以上高位,2024 年占比高达 94.63%,其中第一大客户占比均在 50%以上,2024 年第一大 客户占比 79.15%,体现客户结构的高度集中性,若公司主要客户经营发生变动或者需求放 缓,或新客户拓展情况不及预期,可能影响公司业绩。

(5)公司控股股东、实际控制人为陈天石博士,股权结构较为稳定。自寒武纪上市以 来,公司创始人、董事长、总经理陈天石博士一直为公司控股股东与实控人,截至 2025 年 3 月 31 日,陈天石博士直接持有公司 28.63%股份,同时,陈天石博士是北京艾溪科技中心 (有限合伙)的执行事务合伙人及实控人,艾溪合伙持有公司 7.34%股份,因此陈天石博士 合计拥有公司 35.97%的表决权,为公司的控股股东以及实际控制人。北京中科算源资产管 理有限公司(由中国科学院计算技术研究所全资设立)为公司第二大股东,持有 15.73%股 份。

(6)公司高管多数拥有丰富的学历与技术背景及相关从业经验,技术团队成熟。公司 拥有成熟的管理和研究团队,董事长陈天石博士在创立公司前曾任中科院计算技术研究所博 士生导师,副总经理刘少礼先生、王在先生、陈帅先生也均拥有计算机相关博士学位并曾在 中科院计算所工作,副总经理刘毅先生与张尧先生均拥有相关硕士学位和丰厚的产业从业经 验,高管层整体年龄在 40 岁左右,较为年轻。

1.2.云端产品线助力营收大幅增长,未来业绩兑现动能强劲

(1)2024 年与 2025 年一季度营收同比高增,归母净利润已扭亏为盈。2024 年以前, 公司营收较为依赖智能计算集群系统,2021-2023 年营收均在 7 亿元左右,同时由于研发支 出较高等原因,2024 年及以前公司归母净利润均处于亏损状态,但自 2023 年起,亏损逐年 收窄,2024 年第四季度公司归母净利润首次扭亏为盈,为 2.72 亿元,2025 年第一季度延 续盈利,归母净利润为 3.55 亿元,同比增长 256.82%。同时 2025 年一季度营收达历史新 高,为 11.11 亿元,同比大增 4230.22%,主要系在当前政策背景下 AI 芯片国产替代需求强 劲,以及公司云端产品国内性能领先、技术壁垒较高的前提下,公司云端产品线在客户处大 幅放量。

(2)公司主营业务毛利率均常年维持 50%以上,净利率大幅回升。2020 年至 2025 年 一季度,公司毛利率均在 60%上下波动,净利率在 2025 年一季度回升至 31.96%,体现了 经营情况的整体好转。分业务看,IP 授权及软件毛利率基本为 100%,智能计算集群系统毛 利率在 70%左右水平,自 2023 年起,云端、边缘端产品线毛利率均在 50%以上。

(3)期间费用率显著降低,高研发投入为业绩增长储备动能。公司管理费率自 2021 年 的 54.88%起逐年降低至 2025 年一季度的 3.88%,销售费率也从 2023 年的 11.57%收窄至 2025 年一季度的 1.29%,体现出公司经营效率的不断提高。同时,从研发层面看,公司研 发人员数量常年占据总员工数量的 75%以上,2024 年研发人员中 78.95%拥有硕士及以上 学位,研发费率在 2022 年曾达到 208.92%的高位,主要来自于新产品流片费用增加,另外来自于公司提高研发人才薪酬水平和购置 IP、EDA 及相关研发设备等支出增多。2025 年一 季度,公司研发费率降至 24.53%,主要系营收水平提升所致。

(4)公司存货与预付账款大幅增加,为未来业绩兑现储备动能。公司存货从 2023 年末 的 3.45 亿元暴涨至 2024 年末的 20.44 亿元,2025 年一季度继续增至 27.55 亿元,主要系 委托加工物资增加所致。同时,公司预付账款也实现了大幅增长,由 2023 年末的 1.48 亿元 增至 2024 年末的 7.74 亿元,2025 年一季度上升至 9.73 亿元,主要系公司对供应商的预付 款项增加所致。存货与预付账款大幅上升,反映了公司业务扩张需求以及对未来业绩的预期 和信心,展望未来业绩有望进一步释放。

2.AI 寒武纪元将临,国产算力渗透加速

2.1.AI 芯片是人工智能产业链的核心器件

(1)AI 芯片也被称为 AI 加速器或计算卡,是专门用于处理人工智能应用中的大量计 算任务的模块。目前,AI 芯片主要包括 GPU、ASIC、FPGA 等类型,其中 ASIC 芯片又可 衍生出 TPU、NPU 等种类。GPU 能够进行大量并行数据处理和运算,通用性较强,擅长数 学运算、图形渲染等任务,代表厂商为英伟达、AMD 等;ASIC 芯片为专门针对某一领域设 计的芯片,因此专用性更强,但同时开发成本高、开发周期长,代表厂商如谷歌的 TPU,寒 武纪、华为昇腾的 NPU 等;FPGA 为可现场多次编程的门电路阵列的硬件,其硬件可编程 性使得其灵活性高,但同时设计难度和复杂性也较高,代表厂商如 Xlinx 等。AI 芯片可广泛 应用于云计算、数据中心、智能驾驶、智慧家电等领域。

(2)AI 芯片产业链上游主要包括 AI 算法、设计工具以及制造中代工和封测环节涉及 到的半导体材料与设备,AI 芯片可广泛应用于大模型、云计算以及各类终端智能场景。AI 算 法主要包括视觉算法、语言处理算法、自然语言处理算法、机器学习等,芯片设计工具主要 涵盖 EDA 软件、IP 模块与硬件仿真设备,芯片制造环节涉及的材料与设备类别则更为丰富,AI 芯片按照应用场景的不同可分为云端、边缘端及终端 AI 芯片,下游应用包括但不限于 AI 大模型、云计算、智能驾驶、智慧医疗、智能穿戴、智能机器人等。

2.2.推理与训练需求驱动算力升级,云厂商加大 AI 基建投入

(1)随着当前 AI 大模型的迭代以及性能的提升,其参数量的指数级上升使得大模型训 练所需算力同样迅速增长。根据大模型的预训练第一性原理“Scaling Law”,在机器学习领 域,特别是对于大语言模型而言,模型性能(L,模型在测试集上的交叉熵损失)与模型的 参数量大小(N)、训练模型的数据大小(D)以及训练模型使用的计算量(C)之间存在一 种可预测的关系。这种关系通常表现为随着这些因素的增长,模型性能会按照一定的幂律进 行改善,说明当在模型训练阶段提高算力投入,模型性能会显著增长。根据《Scaling Laws for Neural Language Models》,对于每个训练 Token、每个模型参数,约需要进行 6 次浮点 运算。以 GPT 系列模型为例,GPT-2 参数规模为 15 亿,GPT-3 来到了 1750 亿,GPT-4 更 是约为 1.8 万亿,随着模型迭代和性能提高,参数规模以指数级级别增长,以 GPT-3 大模 型训练为例,模型参数量为 1750 亿,训练 Token 数量为 3000 亿,其需要的训练总算力为 175B×300B×6 = 3.15*10^23 FLOPs。

(2)目前推理侧算力资源地位愈发重要,AI 推理 token 的生成量在过去一年激增了 10 倍。随着 OpenAI o1 系列推理模型的发布,证明了推理侧的算力资源投入同样重要,“Scaling Law”在推理阶段或同样适用。o1 模型引入的思维链类似人类在回答困难问题之前的长时 间思考,通过训练时的强化学习,o1 能够锻炼其思维链并改进其使用的策略,它还能够识 别并改正错误,将棘手的问题拆分成更简单的步骤,如果目前的方式不奏效,o1 还会尝试 不同的解决方式。上述思维链让 o1 的推理能力大幅增强。如下图所示,当推理侧的算力资 源增加时,模型处理问题的准确度显著提升。根据英伟达 CEO 在 2026 财年第一财季业绩 会时(2025 年 5 月 28 日)的发言,AI 推理 token 的生成量在过去一年激增了 10 倍,而随 着 AI agents 成为主流,对 AI 算力的需求也会加速。

(3)自 2024 年起未来 5 年全球算力规模将以超过 50%的增速增长,2030 年智能算力 占比有望达到 90%以上,2023 年中国算力规模全球份额位居第二,占比 31%。根据中国信 通院《先进计算暨算力发展指数蓝皮书(2024 年)》,2023 年全球计算设备算力总规模为 1397EFlops,增速达 54%,预计未来 5 年全球算力规模仍将以超过 50%的速度增长,至 2030 年全球算力将超过 16ZFlops(ZFlops 为 EFlops 的一千倍),其中智能算力占比将超 过 90%(按 AI 服务器算力总量估算)。随着我国通用数据中心、智能计算中心持续加快部 署,2023 年我国基础设施算力规模达到 230EFlops,全国累计建成智算中心达 60 个,近 6 年累计出货超过 114 万台 AI 服务器,算力总规模达到 435EFlops,全球占比 31%,份额仅 次于美国,增速达 44%,其中智能算力增速达 62%,占全国总算力比重 2/3。

(4)海内外云厂商加速 AI 基础建设投入,2024 年及 2025Q1 资本开支同比大幅增长。 云厂商(云计算服务提供商)是通过互联网提供计算资源、存储、网络、软件等服务的厂商。 全球头部云厂商包括亚马逊、谷歌、微软、Meta 等,根据 Canalys,2025 年一季度亚马逊 云科技、微软 Azure 和谷歌云相关云支出合计占据全球云支出的 65%。亚马逊、谷歌、微 软和 Meta 2024 年资本开支分别同比增长 57.41%、62.89%、57.81%和 37.16%,2025 年 一季度资本开支分别同比增长 67.63%、43.17%、52.94%和 102.20%。AI 是云服务增长的 核心引擎,随着 AI 从研究阶段迈向部署阶段,企业越来越关注推理阶段的成本效益,与一 次性投入资源的模型不同,推理是一项持续的运营成本,对算力资源的需求也是源源不断的, 因此云厂商不断加大资本投入建设 AI 基础设施。

(5)以阿里、腾讯、百度为代表的国内互联网云厂商同样在加大 AI 投入,此外,中国 移动、中国电信、中国联通等运营商也在加码算力基础设施投资。腾讯 2024 年资本开支同 比增长 221.27%,预计 2025 年将进一步增加资本支出,占收入的低两位数百分比;阿里 2025 财年资本开支同比增长 167.93%,阿里计划未来三年将投入至少 3,800 亿元人民币, 用于建设云计算和 AI 的基础设施,这一金额将超过阿里过去十年在云和 AI 基础设施上的投 入总和; 2024 年,中国移动智算规模达到 29.2EFLOPS,净增 19.1EFLOPS,呼和浩特、 哈尔滨两个万卡级超大规模智算中心上线提供服务。2025 年中国移动资本开支合计约为 1512 亿元,主要用于连接基础设施优化、算力基础设施升级、面向长远的基础设施布局等。 其中,在算力领域的投资为 373 亿元,占资本开支的比例提升到 25%,计划智算规模超过 34EFLOPS;中国联通表示,算网数智业务已经成为中国联通第二增长曲线,2024 年中国 联通算力投资同比上升 19%,2025 年预计算力投资同比增长 28%;中国电信 2025 算力方 面资本开支预计同比增长 22%。

(6)算力需求增长以及 AI 基础设施建设采购需要拉动 AI 芯片市场规模扩大,2025 年 全球 AI 芯片销售收入有望达到 920 亿美元,同比增长 29.58%,中国 AI 芯片市场规模 2024 年有望达到 1412 亿元,占比全球约 28%。AI 芯片是实现算力的核心硬件,芯片性能决定算 力水平,AI 芯片通过不断优化制程工艺、架构设计等提升计算能力。随着全球算力需求不断 上升,AI 芯片市场规模也在相应大增。全球 AI 芯片销售收入 2024 年有望达到 710 亿美元, 同比增长 32.46%,2025 年有望继续增长 29.58%至 920 亿美元。中国作为算力需求的大 国,2024 年 AI 芯片市场规模有望增至 1412 亿元,同比增长 17.08%,占比全球市场份额 约为 27.92%。

(7)从国内细分市场来看,2024 年我国 GPU 服务器仍占据 70%,但 ASIC、FPGA 服务器正加速增长,2029 年份额将接近 50%,从采购厂商看,互联网仍是最大的采购行业。 根据 IDC,2024 年中国加速芯片市场中 GPU 卡占比达到 70%,占据主导地位,IDC 预测, 到2029 年中国加速服务器市场中非GPU服务器(ASIC和FPGA等)市场规模将接近50%。 从行业角度看,互联网厂商采购了超过 65%的加速服务器,其余行业均有不同幅度的增长。

2.3.海外芯片龙头仍主导市场,本土厂商加速布局提升份额

(1)英伟达仍在全球数据中心 GPU 市场占有绝对领先地位,市占率超过 90%。受益 于生成式 AI 市场的爆发,英伟达(NVIDIA)在全球 AI 芯片市场遥遥领先,自 2017 年开始 市占率从 87.5%持续上升至 2023 年的 98%,其余两位主要厂商为 AMD 和 Intel,但由于英 伟达的 AI 芯片价格昂贵,且存在着供应不足的问题,因此一些客户希望选择其他厂商的替 代产品,并且随着 AMD 和英特尔在 AI 芯片市场持续投入(比如推出 AMD Instinct MI300 系列、英特尔 Gaudi2/Gaudi3 等),其他 AI 芯片厂商的市场份额也将会逐步提升。2024 年 英伟达全球数据中心 GPU 市场份额或略微回落至 94%,AMD 为 4.2%,Intel 为 1.8%。

(2)国内 AI 芯片市场也主要被英伟达、AMD 等占据,但以华为、寒武纪、百度等厂 商为代表的国产 AI厂商正在加速布局,2024年国内本土 AI芯片品牌的出货份额已达 30%, 预计 2025 年中国 AI Server 市场国内本土芯片供应商占比升至 40%。根据 IDC,随着我国 加速芯片市场规模增长,本土 AI 芯片品牌的出货量也在不断上升,2024 年出货超过 82 万 张,份额约为 30%,通过适配 DeepSeek 等国产 AI 大模型,中国本土芯片在软件生态领域 实现了突破并逐步完善,本土芯片的市场竞争力也因此不断加强,同时也促进了本土芯片厂 商的技术交流和资源共享,打破了国产芯片生态建设的僵局。根据 TrendForce,中国 AI Server 市场预计外购英伟达、AMD 等芯片比例会从 2024 年的约 63%下降至 2025 年的42%,而本土芯片供应商(如华为海思、寒武纪等)在国有 AI 芯片政策支持下,2025 年预 计占比将提升至 40%。

(3)随着英伟达 GPU 架构迭代,其芯片算力、功耗表现也更为突出,拥有领先其他厂 商 1-2 年的代际优势。英伟达成立于 1993 年,早期专注于图形芯片设计业务,1999 年英伟 达挂牌上市,并发明和推出全球首款图形处理器 GeForce 256(GPU),极大推动了 PC 游 戏市场的发展,重新定义了计算机图形技术。2006 年,英伟达发明并行计算平台和编程模 型 CUDA,为后来的 AI 技术带来了重大影响。随着技术与业务的发展,目前已发展成为一 家提供全栈计算的人工智能公司。自 2006 年的 Tesla 架构起,英伟达的 GPU 架构不断迭 代,先后推出了 Volta(2017 年)、Turing(2018 年)、Ampere(2020 年)、Hopper(2022 年)、Blackwell(2024 年)等 GPU 架构,以及计划于 2026 年推出的 Rubin 架构,随着架 构迭代,芯片制程越发先进,算力、功耗表现也更为突出。总体来说,英伟达的芯片拥有领 先市面上其他竞争厂商 1-2 年的代际性能优势,同时 CUDA 平台让开发者形成路径依赖, “硬件+软件”共同构建其稳固的护城河。

(4)AI 芯片的设计和制造的复杂性使国内厂商难以在短期内比肩英伟达等国际巨头。 国产 GPU 面临着技术门槛高、生态系统薄弱、研发投入巨大、市场进入壁垒高、制造工艺 限制等问题,种种挑战使得中国本土 AI 芯片品牌还未能追赶上国际巨头最新世代产品的性 能,市占率也亟待提高。

(5)目前国内本土 AI 芯片品牌以寒武纪思元系列、华为昇腾、百度昆仑芯等为代表。 1)华为目前已有 NPU 芯片昇腾 310、910(昇腾 910B 可对标英伟达 A100)以及基 于上述芯片的加速卡、AI 服务器、AI 集群等解决方案。华为拥有基于华为昇腾系列(HUAWEI Ascend)AI 处理器和基础软件构建的 Atlas 人工智能计算解决方案——昇腾计算,包括 Atlas 系列模块、板卡、小站、服务器、集群等丰富的产品形态,打造面向“端、边、云”的全场 景 AI 基础设施方案,覆盖深度学习领域推理和训练全流程。目前华为发布了两款 AI 芯片 (NPU)——昇腾 910 和昇腾 310,采用华为自主开发的达芬奇架构,昇腾 910 主要面向 云端高性能计算,而昇腾 310 功耗较低,主要用在边缘计算等领域,基于昇腾芯片,华为开 发了 AI 算力板卡、服务器、集群等一系列硬件产品。从性能上看,昇腾 910B 可对标英伟达 A100。

2)昆仑芯目前已有两代产品,可适用于云端训练、推理等场景。2018 年,百度在 2018 年百度 AI 开发者大会上宣布推出云端全功能 AI 芯片“百度昆仑”;2020 年昆仑芯 1 代系列 产品大规模部署;2021 年 4 月,百度昆仑芯片业务完成独立融资,昆仑芯(北京)科技有 限公司成立;2021 年 8 月,昆仑芯 2 代系列产品量产。昆仑芯 1 代 AI 芯片基于昆仑芯自研 架构 XPU 设计,针对云端推理场景,支持通用 AI 算法,在计算机视觉、语音识别、自然语 言处理和推荐的算法上性能指标表现高效且稳定。昆仑芯 2 代 AI 芯片基于新一代自研架构 昆仑芯 XPU-R 而设计,聚焦通用性和易用性。相比 1 代产品,昆仑芯 2 代 AI 芯片的通用计 算核心算力提升 2-3 倍,可为数据中心提供强劲 AI 算力。

(6)美国 AI 芯片管制政策趋严,国产 AI 芯片自主可控进程有望全面提速。从管制阈 值看,美对华 AI 芯片出口管制从最初限制尖端算力芯片(如 A100/H100),逐步扩展至特供 版中端芯片(H20);从管制范围看,除硬件外,美国同步切断 EDA 工具更新、禁用华为昇 腾芯片等,并威胁全球企业配合制裁,形成“硬件+软件+生态”三位一体封锁网。短期内,或 导致国内算力缺口与技术断链,长期看,在国内厂商研发能力提升和技术升级的背景下,构 建“设计-制造-生态”全自主产业链正在加速催化,AI 芯片国产替代有望全面提速。

3.硬件筑基+软件赋能,造就国产 AI 芯片领跑者

3.1.云、边、端全栈布局,赋能训练与推理全场景

(1)从硬件层面看,公司在云、边、端三大场景都有芯片产品布局。AI 芯片按照应用 场景的不同可分为云端、边缘端和终端三类,云端主要是指云计算数据中心等场景,边缘端 主要指智能制造、智能家居、智慧交通、智能驾驶等场景,终端则是各类消费电子、IoT 产 品等,上述场景对应硬件的算力和功耗需求都有所不同,总体来说云端 AI 芯片需求的算力 和对应功耗较高,边缘端次之,终端对于算力和功耗的要求较低。公司面向云、边、端三大 场景分别研发了三种类型的芯片产品,分别为云端智能芯片及加速卡、边缘智能芯片及加速 卡和终端智能处理器 IP。

(2)公司云端产品线包含云端智能芯片及加速卡、训练整机。云端智能芯片及加速卡 需与服务器整机产品进行适配,通过服务器厂商、OEM 厂商针对其功能和性能的全方位严 格认证再进入大规模商用阶段,公司除了要攻克智能芯片架构等一系列核心技术难关,还要 跨越各服务器厂商的高准入门槛。训练整机主要提供计算集群中的单体训练服务器,由公司 自研云端智能芯片及加速卡提供核心计算能力,且整机亦是公司自研的服务器产品。

1)云端 AI 芯片方面,公司已经迭代发布了四代产品以及其对应加速卡,思元 370 最 大算力达 256TOPS(INT8),集推理训练为一体,MLU370-X8 单卡性能与主流 350W RTX GPU 相当,思元 590 有望成为新的营收支撑。思元 100 芯片于 2018 年发布,是中国首款 高峰值云端智能芯片。思元 270 在前一代基础上升级了指令集和芯片架构,是公司首款云端 训练智能芯片,思元 290 芯片工艺为台积电 7nm 制程工艺,可高效支持分布式、定点化的 人工智能训练任务,2021 年,公司发布了“推训一体”的思元 370,是公司首款采用 Chiplet (芯粒)技术的人工智能芯片(支持芯粒间的灵活组合,仅用单次流片就达成了多款智能加 速卡产品的商用),芯片最大算力高达 256TOPS(INT8),是思元 270 算力的 2 倍。同时,思 元 370 芯片支持 LPDDR5 内存,内存带宽是思元 270 的 3 倍,可在板卡有限的功耗范围内 给人工智能芯片分配更多的能源,输出更高的算力。通过在 Cambricon NeuWare SDK 上实 测,在常见的 4 个深度学习网络模型上,MLU370-X8 单卡性能与主流 350W RTX GPU 相 当。从客户层面看,公司已与互联网、金融、通信、交通等多个行业客户展开合作,与头部 AI 大模型进行适配,并在各行业垂直领域进行大模型应用探索与落地。目前新一代思元 590 芯片已进入国产供应链,实测训练性能较在售产品有了显著提升,它提供了更大的内存容量 和更高的内存带宽,其 PCle 接口也较上代实现了升级,有望成为公司新的营收支撑。

2)目前寒武纪发布了玄思 1000、1001 智能加速器整机,机箱内集成了多颗思元智能 芯片。玄思 1000 智能加速器整机在 2U 机箱内集成了 4 颗思元 290 智能芯片,2 台玄思 1000 加速器与 CPU 服务器可组成一套包括 8 张加速卡的整机系统,可实现 AI 算力多向扩 展,满足性能、扩展性、灵活性、鲁棒性的要求。2022 年发布的玄思 1001 智能加速器在 2U 机箱内集成 4 张 MLU370-M8 智能加速卡,MLU-Link 互联接口,实现智能算力在数据中心 纵向扩展,可广泛支持 FP16、FP32 等不同数据精度的智能算力,提供大容量内存,支撑智 能模型的分布式训练需求,是智能算力的高集成度平台,已在生物信息、医疗影像、语言模 型等行业及科研场景广泛应用。

(3)公司的智能计算集群系统业务提供全集群搭建和管理服务,主要面向有一定技术 基础的商业客户群体,国内市占率位于第一梯队。对于有人工智能计算能力建设的客户来说, 部分客户选择单独采购云端智能芯片加速卡并将其自行集成至现有建设完毕的计算集群中, 但部分客户则更希望公司能够提供定制化的软硬件整体解决方案,以科学地配置和管理集群 的软硬件、提升运行效率。2021 年公司中标昆山智能计算中心等项目,公司已经陆续在西 安沣东、珠海横琴、江苏南京、江苏昆山拓展了智能计算集群系统业务,国内市占率处在第 一梯队;2022 年公司中标南京智能计算中心项目(二、三期)智能计算设备(二期)项目, 以玄思 1001 智能加速器作为核心算力单元之一,集成配套软硬件,最终形成智能计算集群 系统交付给客户;2023 年公司积极参与台州、沈阳两地的算力基础设施建设项目并交付相 关智能计算集群系统。

(4)边缘端产品方面,公司围绕思元 220 芯片推出了相应加速卡及智能模组,面向 AI 边缘推理任务。边缘计算通过在终端和云端之间的设备上配备适度的计算能力,可有效弥补 终端设备计算能力不足的劣势,同时能够缓解云计算场景下数据安全、隐私保护、带宽与延 时等潜在问题。边缘计算范式和 AI 技术的结合将推动智能制造、智能零售、智能教育、智 能家居、智能电网、智能交通等众多领域的高速发展。公司于 2019 年推出了边缘智能芯片 思元 220 及相应的 M.2 加速卡,思元 220 基于台积电 16nm 工艺,在 1GHz 的主频下,理 论峰值性能为 32TOPS(INT4)、16TOPS(INT8)、8TOPS(INT16),芯片典型功耗小于 10W, 支持视觉、语音、自然语言处理以及传统机器学习等多样化的 AI 应用。同时公司推出了 MLU220-SOM 智能模组,基于信用卡大小的模组上可以实现 16TOPS AI 算力的单系统解 决方案,功耗仅为 15W。

(5)终端产品方面,公司先后推出了寒武纪 1A、1H、1M 系列芯片,覆盖 0.5TOPS8TOPS 内不同档位的 AI 算力需求,可集成于手机或 IoT 类 SoC 芯片中,从而快速获得在 终端做 AI 本地处理的能力。公司终端智能处理器产品主要以 IP 授权形式于智能终端设备 中,即将已完成逻辑设计或物理设计的芯片功能模块(如处理器、DRAM 接口等)以商业授 权的形式交付给客户使用,允许客户将其集成在自己的芯片设计版图中,并通过流片形成最 终芯片产品。公司收费模式包括固定费用(许可技术通过验收后,许可产品正式出货前,按 照授权许可实施进度分阶段收取相应费用)和提成费用(被授权方量产芯片并销售许可产品 后的每个季度末,按照许可产品的累计销售数量所在区间分标准收取相应费用),因此该项 业务基本不产生对应成本。目前已有多家国内著名芯片设计公司获得了公司终端智能处理器 的商业 IP 授权,迄今已集成于上亿台智能手机及其他智能终端设备中。

3.2.基础系统软件平台&自研架构与指令集构建护城河

(1)在提供硬件的同时,公司也为云、边、端全系列智能芯片与处理器产品提供统一 的平台级基础系统软件 Cambricon Neuware(包含软件开发工具链等)。Cambricon Neuware 打破了不同场景之间的软件开发壁垒,兼具高性能、灵活性和可扩展性的优势,无 须繁琐的移植即可让同一 AI 应用程序便捷高效地运行在公司云边端系列化芯片与处理器产 品之上。在 Cambricon Neuware 的支持下,程序员可实现跨云边端硬件平台的 AI 应用开 发,大幅提升 AI 应用在不同硬件平台的开发效率和部署速度,同时也使云边端异构硬件资 源的统一管理、调度和协同计算成为可能。

(2)公司软件平台可分为训练软件平台和推理软件平台。(1)训练软件平台方面,公 司拥抱开源生态,研发了兼具高性能和通用性的训练软件栈,原生支持业界的开源框架 Pytorch 和 Tensorflow,对两个框架都提供了完善的基础设施支持,包括原生 Profiler 和原 生的分布式训练支持,用户基于开源框架的模型代码可以快速完成迁移。截至 2024 年底, 公司持续投入在大规模分布式训练软件平台的研发,迭代更新了 Megatron、Transformer Engine 等主流分布式训练组件,使训练软件平台能够支撑主流的大模型分布式训练需求, 降低新模型的适配周期,同时增加了对 DeepSeek 系列、Llama 系列、Qwen 系列等主流大 模型训练的支持。(2)推理软件平台方面,公司于 2021 年发布全新推理加速引擎 MagicMind, 是业界首个基于 MLIR 图编译技术达到商业化部署能力的推理引擎。借助 MagicMind,用户 仅需投入极少的开发成本,即可将推理业务部署到公司全系列产品上。截至 2024 年底,在 大模型适配方面,推理软件平台成功支持并优化了 DeepSeek 系列、Llama 系列、Qwen 系 列等主流文生文模型,以及 Flux、hunyuanvideo、cogvideox 等多模态模型。

(3)公司云端、边缘端、终端的所有智能芯片和处理器 IP 产品以及基础系统软件均基 于自研处理器架构,且均构建于自研的 MLU 指令集基础之上,有助于保持核心技术的自主 可控。思元 590 将采用 MLUarch05 全新架构。通用型智能芯片及其基础系统软件的研发需 要全面掌握核心芯片与系统软件的大量关键技术,技术难度大、涉及方向广,是一个极端复 杂的系统工程,其中处理器微架构与指令集两大类技术属于最底层的核心技术。(1)智能处 理器微架构方面,目前公司已自主研发了四代智能处理器微架构(MLUarch00、MLUarch01、 MLUarch02 和 MLUarch03),其中思元 370 基于 MLUarch03 计算架构,思元 590 将采用 MLUarch05 全新架构。(2)指令集是处理器芯片生态的基石,公司是国际上最早开展智能 处理器指令集研发的少数几家企业之一,自 2016 年来已自主研发了四代商用智能处理器指 令集(MLUv00、MLUv01、MLUv02 和 MLUv03),同一套指令集能够同时支持 AI 训练和 推理任务,适用于云端、边缘端、终端不同场景不同类型的智能芯片,支撑公司构建云边端 一体化、训练推理融合的基础系统软件平台和具有公司特色的 AI 新生态。截至 2024 年末, 公司新一代智能处理器微架构和指令集正在研发中,将对自然语言处理大模型、视频图像生 成大模型以及垂直类大模型的训练推理等场景进行重点优化,将在编程灵活性、易用性、性 能、功耗、面积等方面提升产品竞争力。

编辑:火腿肠
  • 相关标签
  • 相关专题
  • 热门文档
  • 热门文章
  • 本年热门
  • 本季热门
  • 本月热门
  • 本年热门
  • 本季热门
  • 本月热门
分享至