生成式人工智能、大模型等人工智能技术引发了全球AI安全热潮。
生成式人工智能大模型发展迅速，应用场景不断拓展，Stable Diffusion、Midjourney等视觉生 成模型、ChatGPT等文本生成模型的出现，极大提高了工作生产效率，丰富了人们的数字生活场景。 但同时，也带来了大量网络意识形态安全、数据安全、个人信息安全等方面的新风险、新挑战。为应对 这类风险，近几年《人工智能安全标准化白皮书（2023年版）》、《国家人工智能产业综合标准化体 系建设指南》（征求意见稿）以及《网络安全标准实践指南——生成式人工智能服务内容标识方法》相 继发布。 本次调研数据显示，超六成受访者表示，所在企业/组织已经使用了AI技术来提升网络安全工作效 率。在应用场景中，网络安全从业人员将AI广泛应用在方案撰写、安全服务等方面，在漏洞挖掘、产品研 发方面也开展了广泛探索。
同时，78.5%的受访者表示支持投资开发更多基于AI的网络安全产品或服务，21.5%的受访者对此 表示中立和反对态度，说明大家一定程度上对AI技术的安全性等问题仍存疑虑。
当下，人工智能技术的蓬勃发展正以前所未有的速度重塑传统行业格局，对相关领域人才的需求也在 逐年飞速增长。在加快培育和发展新质生产力的背景下，网络安全从业人员作为数字化领域的关键岗位对 AI的学习是提高自身竞争力，顺应新一轮科技革命与产业变革的必然需求。 调研数据显示，有近50%的受访者没有参加过人工智能安全相关的培训或学习，也有部分受访者认 为当前市场上关于人工智能安全的培训内容不能满足其学习提升需求。这组数据说明，人工智能安全的培 训体系尚未成熟，面向网络安全从业人员的培训覆盖率、渗透率处于较低的水平。这与人工智能结合网络 安全的跨领域、跨学科专业性相关，与人工智能在网络安全中的应用成熟度相关。相信随着两者的不断融 合与发展，市场上关于人工智能安全的课程、书籍以及行业认证都将逐渐丰富起来。
生成式人工智能、大模型等人工智能技术引发了全球AI安全热潮。既精通AI技术原理又熟悉安全策 略、数据隐私保护及伦理法规的复合型人才炙手可热。在对受访者关于人工智能安全培训内容的调研 中，有81.3%的从业人员最关注AI的行业应用，对AI基础理论知识、AI模型开发也有着较为迫切的培训 需求。
2023年生成式AI技术异军突起，给动荡的全球网络安全威胁态势增加了不确定性、不对称性和复杂 性。人工智能在网络安全领域带来了一系列挑战，这些挑战涉及到技术、伦理、法律和社会等多个层面。 从调研数据来看，受访者普遍认为AI在网络安全领域面临的主要挑战在数据隐私和保护问题方面。同 时，受访者也对未来五年内AI在网络安全领域的应用充满期待，有41.4%的受访者认为AI将在网络安全领 域内迅速普及并形成行业标准。
当然，大家对人工智能应用充满期待的同时，也担心着AI技术会不会逐渐代替我们的岗位，有一天让 网络安全人员失业。这种担忧反馈在调研数据中极为突出，有84.8%的受访者认为AI可取代网络安全工 作人员。
我们知道，人工智能和机器学习是大规模样本进行训练，完成推理工作。现在随着ChatGPT等AI工 具的普及，很多人都很容易得出基本判断和给出常规结论。面对人工智能的挑战，要让自己有高于人工智 能的能力，就需要有深度思考的能力，给出准确独到合理的结果。
