信息安全研究 ›› 2024, Vol. 10 ›› Issue (E2): 105-.

• 数字经济安全 • 上一篇    下一篇

 大模型安全评估体系框架研究

苏艳芳1袁静1薛俊民2   

  1. 1(公安部第三研究所上海200031)
    2(中国邮政储蓄银行北京100161)
  • 出版日期:2024-11-22 发布日期:2024-11-23
  • 通讯作者: 苏艳芳 硕士,助理研究员.主要研究方向为网络安全. suyanfang@gass.ac.cn
  • 作者简介:苏艳芳 硕士,助理研究员.主要研究方向为网络安全. suyanfang@gass.ac.cn 袁静 硕士,研究员.主要研究方向为网络安全. yuanjing@gass.ac.cn 薛俊民 硕士,高级工程师.主要研究方向为网络安全. xjunmin@wo.cn

  • Online:2024-11-22 Published:2024-11-23

摘要: 近年来,人工智能技术的突飞猛进推动了大模型在众多领域的深度渗透与广泛应用,随之而来的安全挑战日益严峻.聚焦于大模型的安全风险,从风险来源、可信属性与模型全生命周期3个关键维度入手,设计并构建了一个综合性大模型安全评估体系框架.该框架突破传统模型评估主要集中在训练数据和模型生成内容安全等方面的局限,旨在通过系统化、多角度分析,强化大模型在复杂应用场景中的安全性、鲁棒性及可信度,为大模型的安全性能评估提供了一个全面的指导体系.此评估体系框架的构建不仅有助于识别与量化当前大模型面临的安全隐患,还为后续的安全增强措施与策略规划提供了坚实的理论与实践基础.

关键词: 大模型, 安全风险, 生命周期, 安全性和可信度, 安全评估体系框架

中图分类号: