大模型安全测评评估框架研究

信息安全研究 ›› 2025, Vol. 11 ›› Issue (E2): 267-.

• 2025“数字经济与网络安全”论文集 • 上一篇下一篇

大模型安全测评评估框架研究

汤志伟1罗佳莹1俞贵琪2

1(公安部第三研究所公安部网络安全等级保护评估中心上海200031)
2(上海市公安局网络安全保卫总队上海201799)

出版日期:2025-12-27 发布日期:2025-12-29
通讯作者: 汤志伟博士，研究员.主要研究方向为网络安全等级保护、警用物联网技术、智能视频处理、大模型安全. 99chaoyang@163.com
作者简介:汤志伟博士，研究员.主要研究方向为网络安全等级保护、警用物联网技术、智能视频处理、大模型安全. 99chaoyang@163.com 罗佳莹硕士.主要研究方向为大模型、等级保护测评. luojiaying@gass.ac.cn 俞贵琪主要研究方向为网络安全、等级保护、数据安全. yuguiqi@163.com

Online:2025-12-27 Published:2025-12-29

摘要/Abstract

摘要： 随着大模型在各领域的广泛应用，引发了多层次安全风险，已成为制约其可靠落地的关键瓶颈.对于大模型的安全测评而言，评估框架存在评估粒度不足、阶段覆盖不全面、响应滞后等问题.通过分析大模型在全生命周期各阶段面临的安全挑战，构建了一套综合性的安全测评评估框架.该框架深度融合通用安全原则与大模型特有风险，通过细化各阶段测评指标，旨在实现风险的早期识别与主动防控，形成了“检测—评估—防护”的闭环管理机制，为大模型安全、可信、合规的部署与应用提供支撑.

中图分类号:

TP309

汤志伟, 罗佳莹, 俞贵琪, . 大模型安全测评评估框架研究[J]. 信息安全研究, 2025, 11(E2): 267-.

[1]	李越挺, 江魁, . 基于LLMRAG的可信恶意URL识别方法[J]. 信息安全研究, 2025, 11(E2): 19-.
[2]	刘楠, 陶源, . 基于多任务场景的大模型网络安全等级保护知识增强方法[J]. 信息安全研究, 2025, 11(E2): 67-.
[3]	吴金宇, 张富川, 胡海生, 江泽铭, 陈树廷, 段古纳, 刘丹, 齐洪东, 杜君, . 可信计算3.0在新型电力系统AI大模型安全防护中的增强机制及应用[J]. 信息安全研究, 2025, 11(E2): 85-.
[4]	马霄, 张瑞恒, 董保开, 金忠龙, 宋锐, 王峰, 刘超, . 工业大模型内生安全风险与防护体系研究[J]. 信息安全研究, 2025, 11(E2): 94-.
[5]	曹思玮, 陈广勇, . 大模型攻击技术综述[J]. 信息安全研究, 2025, 11(E2): 116-.
[6]	刘瑞, 吴强, 陈佳珵, . 能源化工行业基于联邦学习技术的大模型建设研究[J]. 信息安全研究, 2025, 11(E2): 146-.
[7]	刘静, 王勇, 王雪, . 司法大模型细粒度能力测评体系构建研究[J]. 信息安全研究, 2025, 11(E2): 167-.
[8]	李文瑾, 祝荣吉, 骆嘉敏, 高东, 范敦球, . 从AI红队视角分析大模型安全威胁[J]. 信息安全研究, 2025, 11(E2): 299-.
[9]	熊开智, 叶马力, 岳攀, 卢嘉源, . 基于大模型的多模态攻防检测自动化编排控制系统[J]. 信息安全研究, 2025, 11(E1): 72-.
[10]	郝伟, . 人工智能大模型安全评测与评价体系研究[J]. 信息安全研究, 2025, 11(E1): 163-.
[11]	宋歌, . 基于AI的代码安全检测技术探索与实践[J]. 信息安全研究, 2025, 11(E1): 181-.
[12]	张星, . 医疗大模型数据安全保障技术及应用研究[J]. 信息安全研究, 2025, 11(E1): 229-.
[13]	李守伟, 张嘉政, 何海波, 陈明辉, . 基于区块链的大模型数据监管体系设计[J]. 信息安全研究, 2025, 11(8): 682-.
[14]	魏政, 何树果, 程度, 仇晶, 庞博文, 邢亚君, 郭媛, . 基于语义复原和大模型的无文件混淆攻击识别[J]. 信息安全研究, 2025, 11(12): 1125-.
[15]	韦韬, 仲震宇, 刘焱, 陈达, 薛见新, 胡钺琳, 余超凡, 周云浩, . 大模型驱动的高阶程序[J]. 信息安全研究, 2025, 11(11): 1008-.

大模型安全测评评估框架研究

PDF

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics