信息安全研究 ›› 2020, Vol. 6 ›› Issue (7): 634-644.

• 可信身份认证专题 • 上一篇    下一篇

DeepFake技术背后的安全问题:机遇与挑战

高威,萧子豪,朱益灵   

  1. 北京市瑞莱智慧科技有限公司
  • 收稿日期:2020-07-05 出版日期:2020-07-05 发布日期:2020-07-05
  • 通讯作者: 高威
  • 作者简介:高威,1996年生,本科学历,任职算法工程师,主要研究领域是对抗机器学习 萧子豪,1992年生,硕士学历,任职算法科学家,主要研究领域是对抗机器学习和概率机器学习 朱益灵,1991年生,硕士学历,任职算法工程师,主要研究领域是目标检测、深度生成式模型

The Security Problems of the DeepFake Technology: Opportunities and Challenges

  • Received:2020-07-05 Online:2020-07-05 Published:2020-07-05

摘要: 人工智能的发展给社会生活带来了巨大的改变。然而,随着这些应用的推广,人工智能的安全问题也日益显露出来。最近,以 DeepFake为代表的深度伪造技术的泛滥,严重威胁着社会安全和公众隐私。在本文中,我们首先阐述了DeepFake技术的发展背景和技术原理。接着,我们分析了近年来DeepFake技术在商业、政治、色情和娱乐等方面造成的影响。为了应对这些影响,国内外机构都对与DeepFake相关的技术做出回应。其中,研究机构致力于从技术角度来检测利用DeepFake制作的深伪音视频,维护内容安全。

关键词: DeepFake, 人工智能, 生成式模型, 隐私, 假新闻

Abstract: The developments of artificial intelligence (AI) have made significant changes to the society. However, the AI applications expose their own security problems as well. Recently, fake content generation techniques such as DeepFake have become a threat to public security and privacy. In this article, we first summarize the backgrounds and principles of the DeepFake technologies. Then, we analyze the impacts of DeepFake on business, politics, pornography and entertainment. Many institutions response actively against DeepFake. Among these institutions, the academies focus on developing new technologies to detect these fake videos, images and audios.

Key words: DeepFake, Artificial Intelligence, Generative Models, Privacy, Fake News