Journal of Information Security Reserach ›› 2024, Vol. 10 ›› Issue (E1): 45-.

Previous Articles     Next Articles

  

  • Online:2024-07-14 Published:2024-07-26

人工智能安全风险及其全球治理

蔡晶晶陈俊张凯付磊


  

  1. (永信至诚科技集团股份有限公司北京100000)

  • 通讯作者: 蔡晶晶 教授级高级工程师，永信至诚创始人与董事长，国家“万人计划”科技创业领军人才、国家杰出工程师、国家网络安全优秀人才.主要研究方向为网络安全、人工智能安全、数字安全测试评估、网络靶场及人才建设. xujuncheng@integritytech.com.cn
  • 作者简介:蔡晶晶 教授级高级工程师，永信至诚创始人与董事长，国家“万人计划”科技创业领军人才、国家杰出工程师、国家网络安全优秀人才.主要研究方向为网络安全、人工智能安全、数字安全测试评估、网络靶场及人才建设. xujuncheng@integritytech.com.cn 陈俊 硕士，正高级工程师，永信至诚总裁.主要研究方向为网络安全、人工智能安全、数字安全测试评估、网络靶场及人才建设. yuyangzjb@integritytech.com.cn 张凯 硕士，永信至诚集团CTO、智能永信总经理.主要研究方向为网络安全、人工智能安全、数字安全测试评估、人工智能安全、网络靶场及人才建设. zk@integritytech.com.cn 付磊 硕士，永信至诚副总裁.主要研究方向为数字安全测试评估、网络靶场技术、网络安全赛事演练及人才培养. fulei@integritytech.com.cn

PDF

摘要： 通过回顾人工智能安全的研究工作，揭示了人工智能系统中潜藏的安全风险.首先，人工智能可能产生5个维度的安全风险，分别是技术风险、数据和隐私风险、社会和经济风险、道德伦理风险以及法律监管风险，并厘清每种风险的成因.其次，综述了国内外人工智能治理的相关法律法规.最后提出了一套针对性的人工智能综合治理框架，该框架通过风险管理和指南流程将人工智能风险和人工智能风险指南相互关联，形成人工智能协同治理层，描述定制风险缓解指南的实施过程.

关键词: 人工智能, 安全风险, 治理, 法律法规, 框架, 风险指南

CLC Number: 

京ICP备19004174号
Copyright © Journal of Information Security Reserach, All Rights Reserved.
Tel: 010-68558637　E-mail: ris@cei.cn
Powered by Beijing Magtech Co., Ltd.