Journal of Information Security Reserach ›› 2022, Vol. 8 ›› Issue (3): 311-.

Previous Articles    

Great Attention to Artificial Intelligence Security Issues

  

  • Online:2022-03-01 Published:2022-03-01

高度重视人工智能安全问题

谭毓安   

  1. 北京理工大学

摘要: 近年来,以深度学习为代表的人工智能技术飞速发展,在图像分类、自然语言处理等多个任务中超过了人类的表现。在金融、教育、医疗、军事、制造、服务等多个领域,人工智能技术的应用不断深化,和社会生活的融合愈加紧密。然而,在这一过程中,人工智能系统自身暴露出众多安全问题,不断涌现出针对人工智能系统的新型安全攻击,包括对抗攻击、投毒攻击、后门攻击、伪造攻击、模型逆向攻击、成员推理攻击等。这些攻击损害了人工智能数据、算法和系统的机密性、完整性和可用性,迫切需要学术界和产业界的共同关注。