中国人民大学-人工智能行业：人工智能安全治理研究报告（2026年）.pdf

上传者：A*****
时间：2026/08/28
热度：31
0人点赞
举报

人工智能正由生成式对话工具向多模态理解、复杂推理与工具调用深度融合的智能系统发展，其安全问题也由模型可靠性等技术风险，延伸至数据与隐私、基础设施、价值对齐、伦理主体性、信息生态、国家安全，以及法律规制和全球治理等多个层面。本报告立足2025至2026年人工智能安全领域的前沿进展，遵循“风险识别—机制剖析—防御评估—治理建议”的逻辑主线，系统分析人工智能技术及其应用可能带来的风险机制、现实影响与应对路径。

技术安全与数据隐私

报告指出，2025年至2026年，针对大模型基础设施的高危攻击事件激增，多模态越狱、物理对抗攻击及智能体劫持成为新型威胁。防御技术如对抗训练、动态护栏虽有进展，但面临算力成本高、漏报率高等局限。数据安全方面，训练数据偏见演变为价值观与地域文化的系统性风险，数据投毒攻击呈现低成本、产业化趋势，隐私增强技术仍受限于“隐私—效用”的根本性矛盾。

AI对齐与伦理主体性

AI对齐面临奖励投机、目标漂移及超级对齐的理论困境。安全对齐的结构性脆弱性表明，仅靠输出层微调无法保障长期安全。人机主体性重构要求责任归属从单一主体转向多主体网络，治理逻辑需从外部监管转向内生安全，将伦理原则嵌入技术架构。

意识形态与国家安全

生成式AI使舆论操控进入规模化阶段，深度伪造检测滞后于生成技术，虚假信息生态从“后真相”迈向“合成真相”。在国家安全层面，致命性自主武器系统扩散削弱实质控制权，主要大国在AI军事化战略上深度分化，技术民族主义导致全球治理机制碎片化。

法律规制与全球治理

欧盟、美国与中国在治理范式上存在结构性分歧，分别代表预防性监管、去监管化霸权与统筹发展模式。报告建议构建基于底层硬件溯源的国际核查机制，推动从“治AI”向“用AI治”的人机协同共治图景迈进，以应对人工智能带来的生存性挑战。