Journal of Information Security Reserach ›› 2025, Vol. 11 ›› Issue (E2): 267-.

Online:2025-12-27 Published:2025-12-29

大模型安全测评评估框架研究

汤志伟1罗佳莹1俞贵琪2

1(公安部第三研究所公安部网络安全等级保护评估中心上海200031)
2(上海市公安局网络安全保卫总队上海201799)

通讯作者: 汤志伟博士，研究员.主要研究方向为网络安全等级保护、警用物联网技术、智能视频处理、大模型安全. 99chaoyang@163.com
作者简介:汤志伟博士，研究员.主要研究方向为网络安全等级保护、警用物联网技术、智能视频处理、大模型安全. 99chaoyang@163.com 罗佳莹硕士.主要研究方向为大模型、等级保护测评. luojiaying@gass.ac.cn 俞贵琪主要研究方向为网络安全、等级保护、数据安全. yuguiqi@163.com

Abstract

摘要： 随着大模型在各领域的广泛应用，引发了多层次安全风险，已成为制约其可靠落地的关键瓶颈.对于大模型的安全测评而言，评估框架存在评估粒度不足、阶段覆盖不全面、响应滞后等问题.通过分析大模型在全生命周期各阶段面临的安全挑战，构建了一套综合性的安全测评评估框架.该框架深度融合通用安全原则与大模型特有风险，通过细化各阶段测评指标，旨在实现风险的早期识别与主动防控，形成了“检测—评估—防护”的闭环管理机制，为大模型安全、可信、合规的部署与应用提供支撑.

关键词: 大模型, 大模型安全, 测评框架

CLC Number:

TP309

汤志伟, 罗佳莹, 俞贵琪, . 大模型安全测评评估框架研究[J]. 信息安全研究, 2025, 11(E2): 267-.

[1]	. Research Progress on Detection Technologies for Network Attack Based on Large Language Model#br# [J]. Journal of Information Security Reserach, 2026, 12(1): 16-.
[2]	. Smart Contract Vulnerabilities Based on Differential Evolutionary Algorithms and Solution Time Prediction Detection#br# [J]. Journal of Information Security Reserach, 2026, 12(1): 24-.
[3]	. PUFbased Identity Authentication for Internet of Things Against Machine Learning Attacks in Zerotrust Architecture#br# [J]. Journal of Information Security Reserach, 2026, 12(1): 33-.
[4]	. Object Removal Video Tampering Detection and Localization Based on Learnable Ptuning#br# [J]. Journal of Information Security Reserach, 2026, 12(1): 61-.
[5]	. The EU Artificial Intelligence Regulatory Sandbox System and Its Enlightenment#br# #br# [J]. Journal of Information Security Reserach, 2026, 12(1): 82-.
[6]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 2-.
[7]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 8-.
[8]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 12-.
[9]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 15-.
[10]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 19-.
[11]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 25-.
[12]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 31-.
[13]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 35-.
[14]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 44-.
[15]	. [J]. Journal of Information Security Reserach, 2025, 11(E2): 48-.

大模型安全测评评估框架研究

PDF

Knowledge

Abstract

Cite this article

share this article

References

Related Articles 15

Recommended Articles

Metrics