汽车行业深度报告：AI系列深度10期，预训练与后训练如何塑造大模型？.pdf

大模型训练范式正经历从两阶段到多阶段的演进重构。预训练与后训练作为理解模型能力形成的关键框架，前者以海量低成本数据自监督学习形成通用底座，决定能力上限；后者以少量高质量数据适配人类意图，决定调用方式与任务表现。当前产业分歧聚焦于能力来源归属、三阶段划分趋势，以及规模化重心是否从预训练转向后训练与推理时计算。

预训练的核心机制与约束

预训练以"预测下一个词"等自监督目标为核心，扩展律揭示了参数量、数据量与算力的幂律关系，但高质量公共文本预计在2028年前后接近供给上限，推动产业向数据质量优化、合成数据及多模态扩展转向。

后训练的方法演进与局限

后训练涵盖监督微调、RLHF、DPO、RLVR等路径，从习得指令遵循到对齐人类偏好，再到以可验证奖励激励推理。代表性实践通过纯强化学习涌现出长链推理行为，但对齐税与奖励欺骗仍是主要局限。

阶段过渡：中训练与推理时计算

中训练作为预训练与后训练之间的聚焦阶段正在形成；推理时计算以生成更多中间token换取准确率提升，思维链成为连接后训练与推理的关键机制，使推理行为从提示诱发转向默认输出。

数字AI与物理AI的同构与分立

物理AI复用数字AI训练框架，但在数据与反馈上显著不同：机器人依托视觉-语言骨干预训练、真机与仿真后训练；自动驾驶从端到端演进至VLA，引入强化学习优化轨迹安全。物理AI的核心瓶颈在于真机数据稀缺，相对文本语料规模差距悬殊，遥操作采集效率低下。

产业趋势与投资视角

算力重心正从训练侧向推理侧迁移，推理算力占比已过半。预训练属于资本密集的规模竞赛，后训练与推理效率成为以较小投入释放能力的效率竞赛。中国厂商聚焦后训练算法与推理优化，以性价比切入。报告认为，数字AI底座路径趋于清晰，物理AI因难以实现物理世界建模闭环而成为增量更大方向，智能驾驶作为最先跑通闭环的场景应重点关注。