信息安全研究 ›› 2026, Vol. 12 ›› Issue (E1): 120-123.

• • 上一篇    下一篇

生成式人工智能安全风险体系与多层级防御框架设计与研究

李艳华,黄江南,韩珏,韩章奇,王艺菲,赵兴涛   

  • 出版日期:2026-09-04 发布日期:2026-09-04

  • Online:2026-09-04 Published:2026-09-04

摘要: 以ChatGPT为代表的AIGC技术范式,正驱动社会生产生活方式的变革。然而,其强大的通用能力与易用性在释放巨大潜力的同时,也引入了多维交织的复杂安全风险。文章系统性地构建了一个涵盖内生安全与衍生安全两个维度的AIGC安全风险分析框架。在内生安全层面,聚焦于大模型系统自身在基础设施、模型算法及供应链上存在的结构性脆弱性,并基于最新攻击实证揭示了风险的严峻性。在衍生安全层面,分析了技术滥用所引发的隐私泄露、虚假信息、版权伦理等一系列新型社会技术风险。在此基础上,提出了一个“从微观到宏观”的多层级协同防御体系,涵盖基于注意力机制的算法加固、基于AI的供应链纵深防御、面向流量的实时监测响应,以及产业共治与标准构建。最后,指出迈向安全可信的AIGC必须践行内生安全理念,将安全性作为核心设计原则融入系统全生命周期,这需要技术突破、标准制定与生态协作的协同努力。

关键词: 生成式人工智能, 大语言模型, 内生安全, 越狱攻击, 供应链安全, 安全防御体系

中图分类号: