Journal of Information Security Reserach ›› 2024, Vol. 10 ›› Issue (E2): 105-.
Previous Articles Next Articles
Online:
Published:
苏艳芳1袁静1薛俊民2
通讯作者:
作者简介:
摘要: 近年来,人工智能技术的突飞猛进推动了大模型在众多领域的深度渗透与广泛应用,随之而来的安全挑战日益严峻.聚焦于大模型的安全风险,从风险来源、可信属性与模型全生命周期3个关键维度入手,设计并构建了一个综合性大模型安全评估体系框架.该框架突破传统模型评估主要集中在训练数据和模型生成内容安全等方面的局限,旨在通过系统化、多角度分析,强化大模型在复杂应用场景中的安全性、鲁棒性及可信度,为大模型的安全性能评估提供了一个全面的指导体系.此评估体系框架的构建不仅有助于识别与量化当前大模型面临的安全隐患,还为后续的安全增强措施与策略规划提供了坚实的理论与实践基础.
关键词: 大模型, 安全风险, 生命周期, 安全性和可信度, 安全评估体系框架
CLC Number:
TP18
苏艳芳, 袁静, 薛俊民, . 大模型安全评估体系框架研究[J]. 信息安全研究, 2024, 10(E2): 105-.
0 / / Recommend
Add to citation manager EndNote|Ris|BibTeX
URL: http://www.sicris.cn/EN/
http://www.sicris.cn/EN/Y2024/V10/IE2/105