如何看待端侧AI性能的提升?

如何看待端侧AI性能的提升?

最佳答案 匿名用户编辑于2025/05/08 14:09

AI 功能升级带来新增功能和性能需求。

端侧 AI 对硬件的改造是全方位的,体现在功能增加、性能要求提升等方面。端侧 AI 有输入望改变人和消费电子终端以及终端与 app 的交互方式,对硬件的改造包含了 感知/传输/处理能力的提升,落实到零部件升级上,我们认为可以分为三类。

1)感知能力提升去加强 AI 输入的便捷性,比如 iPhone 16 系列标配相机控制键以 加强视觉 AI等能力启动的便捷性,大幅提升麦克风的信噪比能改善 AI语音交互准确性 等。

2)处理和信号传输能力增强:如苹果论文《LLM in a flash》就提高针对端侧 AI运 行中内存限制下的解决方式等,我们认为硬件和软件方案需要同步提升以实现 AI 的高 效运行。这方面的升级反应至 Apple intelligence 的设备限制上,仅支持 A17 Pro 以及 M 系列芯片以上的设备。即使是云端运行的 Agent模型,对设备的要求也较高,如智谱的 AutoGLM 中就提及,个人操作轨迹的数据在采集过程中受限于网络连接和最大并行速 度而效率较低,非常消耗设备的内存。

散热能力是发挥芯片性能的核心保障,散热能力需要根据设计匹配功耗和设计。 对于消费者而言,可靠性和稳定性越强,使用体验感就越强。数据表明温度、湿度、 灰尘是影响电子电气产品稳定性和可靠性的主要因素。当温度为 70℃-80℃时,每上升 10℃,其可靠性下降 50%,而电子设备的失效有 55%是温度超过允许值而引起的。若没 有强大的散热能力,随着功耗的增加,设备将出现降频、发热和闪退等问题,体验将 大打折扣。

散热也将反过来制约硬件的设计,散热能力的提升将为设计留出空间。智能手机 内部,散热材料会占据相当的内部空间。若通过材料升级等方式提升散热效率,腾出 的空间将为电池、主板、传感器等留下充足的提升空间。同样,韩媒 The Elec 报道, 三星应苹果要求,开始研究新的 LPDDR DRAM 封装方式——独立封装。2010 年起, iPhone 就采用堆叠式封装(POP)方案,内存直接叠在 SoC 上通过 Pitch 连接以最大限 度减少设备体积。但是 PoP 技术由于芯片过于靠近,端侧 AI 负载要求下带宽和散热问 题严重。通过分开封装 DRAM 和 SoC,可以增加 I/O 引脚数量,提高数据传输速率和 并行数据通道数量,并改善散热性能,显著提高内存带宽并增强 iPhone 的 AI 能力。

散热升级是功能创新的底层能力之一,随着性能和设备空间变化需求不断提高, 会是一个持续出现并持续被解决的问题。数据处理过程中频繁的电信号转换和传递导 致电流通过内部晶体管和电流,电阻的存在将电能转化为热能从而产生热量。散热问 题的根源是手机越来越高的性能、越来越轻薄的形态和越来越紧凑的设计。功能模块 增加挤占空间、性能提升、形态变化都会带来散热需求的大幅增加,也是散热行业需 求和格局变化的关键节点。

TDP 随着 SoC 性能的提升趋势向上。TDP(散热设计功率)是散热系统设计的核 心指标,代表着 SoC 对散热系统散热能力的要求。随着 CPU 和 GPU 等频率和算力提升 以及 NPU 的算力快速增长,SoC 对系统散热要求整体提升。2020 年发布的 A14 TDP 为 6W,2024 年发布的 A18 Pro 芯片提升至 8W。

参考报告REPORT

AI终端变革之散热:性能跃升驱动散热系统升级.pdf

AI终端变革之散热:性能跃升驱动散热系统升级。AI带来性能需求提升,而散热能力是性能提升的基础:端侧AI带来功能增加、性能要求提升。散热能力作为发挥芯片性能的核心保障,随着芯片计算能力/数据传输和摄像等能力的提升,以及设备空间需求不断提高,功耗的不断提升造成散热问题持续出现。以主芯片为例,A系列芯片散热设计功率从A14的6W提升至A18Pro的8W,带来散热需求持续增加,骁龙也从2021年的5.3W提升至8W以上,联发科芯片功率也大幅提升。整体手机散热需求持续增长。散热是从里到外的系统工程:CPU等热源产生的热量,需要先采用热拓展装置扩展至更大表面积,该环节一般采用石墨膜。然后经由导热界面材料...

我来回答

快速提问

海量报告支持,行业专家解读

海量文库支持,行业专家解答

用户解答榜
分享至