信息安全研究 ›› 2026, Vol. 12 ›› Issue (E1): 81-85.

• • 上一篇    下一篇

大模型安全风险监测评估体系研究

齐婕,曹思玮,王勇   

  • 出版日期:2026-09-04 发布日期:2026-09-04

  • Online:2026-09-04 Published:2026-09-04

摘要: 随着人工智能大模型技术的快速发展,其在内容生成、数据处理与决策推理等方面的广泛应用,也随之带来不良信息滥用及对抗攻击等多重风险。当前研究多集中于单一维度的安全评估,尚缺乏通用且全面的大模型安全风险监测评估体系。文章构建了一套涵盖内容安全性、模型安全性、模型鲁棒性、数据安全性与可信性五个维度的综合评估指标体系,并提出一种适用于多场景的大模型安全风险量化评估方法及监测评估流程。实验结果表明,所提方法具备良好的适用性,能够为大模型安全治理与行业监管提供重要技术支撑。

关键词: 大模型, 安全风险, 监测评估, 指标体系, 生成式人工智能

中图分类号: