Journal of Information Security Reserach ›› 2024, Vol. 10 ›› Issue (E1): 7-.

Online:2024-07-14 Published:2024-07-26

生成式人工智能安全评估体系构建

王锭1俞怡1姚升悦1于静茹1周思乔2汪旭鸿1林懿伦1

1(上海人工智能实验室上海200433)
2(中国网络空间安全协会北京100044)

通讯作者: 王锭博士，助理研究员.主要研究方向为多智能体仿真系统、城市复杂系统建模、交通安全. wangding@pjlab.org.cn
作者简介:王锭博士，助理研究员.主要研究方向为多智能体仿真系统、城市复杂系统建模、交通安全. wangding@pjlab.org.cn 俞怡博士，助理研究员.主要研究方向为智能交通系统、数据要素化、城市计算. yuyi@pjlab.org.cn 姚升悦博士研究生，助理研究员.主要研究方向为多智能体决策优化、交通仿真优化、城市计算. yaoshengyue@pjlab.org.cn 于静茹博士，助理研究员.主要研究方向为智能交通系统、自动驾驶、城市计算. yujingru@pjlab.org.cn 周思乔硕士.中国网络空间安全协会人工智能治理专业委员会研究员.主要研究方向为建筑自动化、建筑数字数据模型、城市计算. zhousiqiao6547@outlook.com 汪旭鸿博士，助理研究员.主要研究方向为知识工程、图数据挖掘、城市计算. wangxuhong@pjlab.org.cn 林懿伦博士，副研究员.主要研究方向为社会计算、平行智能、深度学习、智能交通系统与人工智能安全. linyilun@pjlab.org.cn

Abstract

摘要： 《全球人工智能治理倡议》以“以人为本”为核心理念，推动建立一个公正、开放、有效的全球人工智能治理机制，确保人工智能技术朝着有利于人类文明进步的方向发展.首先概述了人工智能技术的快速发展及其带来的机遇与风险，然后分析了国内外安全治理的现状，揭示了不同国家和地区在人工智能治理策略上的差异，特别是在技术伦理、数据隐私和消费者权益保护方面的多样性.进一步强调构建生成式人工智能安全评估体系的重要性，详细讨论了该体系的4大原则包括全维度考量、体系化应对、责任边界清晰和多方协同发展，及这一体系对于有效应对人工智能技术发展中的安全风险、促进产业健康发展具有关键作用.

关键词: 人工智能, 安全治理, 安全评估

CLC Number:

TP309

王锭, 俞怡, 姚升悦, 于静茹, 周思乔, 汪旭鸿, 林懿伦, . 生成式人工智能安全评估体系构建[J]. 信息安全研究, 2024, 10(E1): 7-.

[1]	. Blockchain Security Sharding Scheme Based on Multi-dimensional Reputation [J]. Journal of Information Security Reserach, 2024, 10(8): 690-.
[2]	. Reversible Video Information Hiding Based on Multi-pass Motion Vector Ordering [J]. Journal of Information Security Reserach, 2024, 10(8): 698-.
[3]	. Research on Data Security Sharing Technology Based on Blockchain and Proxy Re-encryption [J]. Journal of Information Security Reserach, 2024, 10(8): 719-.
[4]	. Sealed Bid Auction Scheme Based on Non-fungible Tokens [J]. Journal of Information Security Reserach, 2024, 10(8): 738-.
[5]	. Physicallayer Wireless Communication Security Scheme for Distributed Flexible Energy Resources [J]. Journal of Information Security Reserach, 2024, 10(8): 745-.
[6]	. A Cloud Edge Coordinated Federated Computing Method for Fault Detection in the Railway Signal System [J]. Journal of Information Security Reserach, 2024, 10(8): 753-.
[7]	. Design and Implementation of Quantum Software Cryptography Module [J]. Journal of Information Security Reserach, 2024, 10(8): 760-.
[8]	. A Review of GPU Acceleration Technology for Deep Learning in Plaintext and Private Computing Environments [J]. Journal of Information Security Reserach, 2024, 10(7): 586-.
[9]	. A Review of Hardware Accelerated Research on Zeroknowledge Proofs [J]. Journal of Information Security Reserach, 2024, 10(7): 594-.
[10]	. A DNS Root Zone Management Architecture Based on Consortium Blockchain [J]. Journal of Information Security Reserach, 2024, 10(7): 602-.
[11]	. Federated Foundation Model Finetuning Based on Differential Privacy#br# #br# [J]. Journal of Information Security Reserach, 2024, 10(7): 616-.
[12]	. Multiuser Searchable Symmetric Encryption Scheme Based on Elliptic Curve Encryption [J]. Journal of Information Security Reserach, 2024, 10(7): 624-.
[13]	. Baseline Evaluation of Financial Data Security Based on Combined WeightingTOPSIS Method [J]. Journal of Information Security Reserach, 2024, 10(7): 634-.
[14]	. Design of Diversity Data Security Compliance Detection System [J]. Journal of Information Security Reserach, 2024, 10(7): 658-.
[15]	. Research on Science and Technology Management Information Security Guarantee System [J]. Journal of Information Security Reserach, 2024, 10(7): 675-.

生成式人工智能安全评估体系构建

PDF

Knowledge

Abstract

Cite this article

share this article

References

Related Articles 15

Recommended Articles

Metrics