基于安全洗牌和差分隐私的联邦学习模型安全防护方法

信息安全研究 ›› 2022, Vol. 8 ›› Issue (3): 270-.

• 深度学习安全与对抗专题 • 上一篇下一篇

基于安全洗牌和差分隐私的联邦学习模型安全防护方法

粟勇1,2 刘文龙1,2刘圣龙3 江伊雯3

¹（南瑞集团有限公司（国网电力科学研究院有限公司）,南京,211100）
²（江苏瑞中数据股份有限公司,南京,211100）
³（国家电网有限公司大数据中心，北京，北京，110000）

出版日期:2022-03-01 发布日期:2022-03-01
通讯作者: 粟勇硕士，主要研究领域为电力信息化、数据安全等，284666776@qq.com
作者简介:粟勇硕士，主要研究领域为电力信息化、数据安全等，284666776@qq.com 刘文龙本科，主要研究领域为电力信息化， liuwenlong@sgepri.sgcc.com.cn 刘圣龙硕士，国网大数据中心安全质量与合规部副处长，长期从事网络与数据安全工作。shenglong-liu@sgcc.com.cn 江伊雯博士，国网大数据中心安全质量与合规处数据安全专责，主研数据安全方向。yiwen-jiang@sgcc.com.cn

Online:2022-03-01 Published:2022-03-01

摘要/Abstract

摘要： 联邦学习可以在保证数据隐私安全及合法合规的基础上实现共同建模，但保证联邦学习模型发布的隐私性以及保证用户对模型的效用仍是亟待解决的问题.提出一种基于安全洗牌和差分隐私的联邦学习模型安全防护方法SFLSDP.联邦模型拥有者利用差分隐私技术对联邦学习的模型参数进行加噪声，生成带噪声的模型参数，之后利用用户授权密钥和安全洗牌算法加密模型参数，并将加密的联邦学习模型参数发送给用户；用户在本地使用联邦学习模型时，利用用户授权密钥和安全洗牌算法解密模型参数密文，得到带噪声的联邦学习模型，将自己的数据作为该模型的输入就能得到期望的输出结果.实验证明该方法可以保护原始学习模型的隐私性，同时获得较高的效用.

关键词:

联邦学习, 差分隐私, 安全洗牌算法, 隐私保护, 数据安全

Abstract: On the premise of protecting user privacy, ensuring data security and legal compliance, integrating data from various industry organizations has become a major problem for artificial intelligence practitioners. This paper proposes a Security protection method for Federated Learning models based on secure Shuffling and Differential Privacy (SFLSDP). The owner of the federated model uses differential privacy technology to add noise to the model parameters of federated learning to generate noisy model parameters, and then use the authorization key and the secure shuffling algorithm encrypt the model parameters, and send the encrypted federated learning model parameters to the user. When the user uses the federated learning model locally, he firstly uses the authorization key and the secure shuffling algorithm to decrypt the model parameter ciphertext, and obtain a noisy federated learning model. The users can get the desired output results by taking their own data as the input of the model. Experiments show that this method can protect the privacy of the original learning model and obtain high utility at the same time.

Key words: federated learning, differential privacy, shuffling algorithm, privacy protection, data security

粟勇, 刘文龙, 刘圣龙, 江伊雯, . 基于安全洗牌和差分隐私的联邦学习模型安全防护方法[J]. 信息安全研究, 2022, 8(3): 270-.

参考文献

MothukuriV ,Parizi R M , Pouriyeh S , et al. A survey on security and privacy of federated learning[J]. Future Generation Computer Systems, 2021,115: 619-640

[2] S. Truex, L. Liu, M. Gursoy, et al. Demystifying membership inference attacks in machine learning as a service[J]. IEEE Trans. Serv. Comput. PP (2019) 1, http://dx.doi.org/10.1109/TSC.2019.2897554

[3] L. Melis, C. Song, E. De Cristofaro, et al. Exploiting unintended feature leakage in collaborative learning[J]. in: 2019 IEEE Symposium on Security and Privacy, SP, 2019, pp. 691–706

[4] M. Hao, H. Li, G. Xu, et al. Towards efficient and privacy preserving federated deep learning[C]// in: ICC 2019 - 2019 IEEE International Conference on Communications, ICC, 2019, pp. 1–6

[5] L.T. Phong, Y. Aono, T. Hayashi,, et al. Privacy-preserving deep learning via additively homomorphic encryption[J]. IEEE Trans. Inf. Forensics Secur. 13 (5) (2018) 1333–1345

[6] G. Xu, H. Li, S. Liu, et al. VerifyNet: Secure and verifiable federated learning[J]. IEEE Trans. Inf. Forensics Secur. 15 (2020) 911–926

[7] U´. Erlingsson, V. Pihur, A.Korolova, Rappor: Randomized aggregatable privacy-preserving ordinal response” [C]//In Proceedings of the 2014 ACM SIGSAC conference on computer and communications security 2014, Nov 3 (pp. 1054-1067)

[8] A. Bittau, U´. Erlingsson, P. Maniatis, et al. Seefeld, Prochlo: Strong privacy for analytics in the crowd [C]//In Proceedings of the 26th Symposium on Operating Systems Principles, October, 2017 (pp. 441-459)

[9] U´. Erlingsson, V. Feldman, I. Mironov, et al. Amplification by shuffling: From local to central differential privacy via anonymity [C]//In Proceedings of the Thirtieth Annual ACM-SIAM Symposium on Discrete Algorithms. Society for Industrial and Applied Mathematics. 2019 (pp. 2468-2479)

[10] S. Paul, S. Mishra, ARA: Aggregated RAPPOR and Analysis for Centralized Differential Privacy[J], SN Computer Science, 1(1), 2020, p.22

[11] 刘小虎, 顾乃杰, 陆余良, 等, 路径洗牌算法:安全组播中一种高效的组密钥更新算法[J]. 电子与信息学报, 2007, 29(10):2477-2481

[1]	梁晨, 王利斌, 李卓群, 薛源, . 生成式对抗网络技术与研究进展[J]. 信息安全研究, 2022, 8(3): 235-.
[2]	胡韵, 刘嘉驹, 李春国, . 一种基于差分隐私的可追踪深度学习分类器[J]. 信息安全研究, 2022, 8(3): 277-.
[3]	陈烨王永利. 基于区块链的5G隐私保护模型研究[J]. 信息安全研究, 2022, 8(1): 43-.
[4]	孙雨潇, 张清芳, 符婷, 李艳丽, . 欧洲的接触者追踪技术（DP3T）之隐私考量[J]. 信息安全研究, 2021, 7(9): 810-814.
[5]	阳陈锦剑余晓光余滢鑫解晓青. 5G无线接入网安全探讨[J]. 信息安全研究, 2021, 7(5): 457-465.
[6]	魏国富石英村. 人工智能数据安全治理与技术发展概述?[J]. 信息安全研究, 2021, 7(2): 110-119.
[7]	赵剑董文华安天博匡哲君史丽娟徐大伟. 面向医疗隐私保护的双区块链模型研究[J]. 信息安全研究, 2021, 7(2): 136-144.
[8]	唐禹吴正华. 一种基于停顿和映射的隐私轨迹混淆策略[J]. 信息安全研究, 2021, 7(12): 1143-.
[9]	吴振豪高健博李青山陈钟. 数据安全治理中的安全技术研究[J]. 信息安全研究, 2021, 7(10): 907-.
[10]	仲蓓鑫林浩孔苏鹏程实. 基于区块链技术的多源网络数据隐私保护方法[J]. 信息安全研究, 2021, 7(1): 86-89.
[11]	李俊柴海新. 生物特征识别隐私保护研究[J]. 信息安全研究, 2020, 6(7): 589-601.
[12]	梅秋丽龚自洪刘尚焱王妮娜. 区块链平台安全机制研究梅秋丽1[J]. 信息安全研究, 2020, 6(1): 25-36.
[13]	周艺华李洪明. 基于区块链的数据管理方案[J]. 信息安全研究, 2020, 6(1): 37-45.
[14]	江茜. 大数据安全审计框架及关键技术研究[J]. 信息安全研究, 2019, 5(5): 400-405.
[15]	谷勇浩郭振洋刘威歆. 匿名化隐私保护技术性能评估方法研究[J]. 信息安全研究, 2019, 5(4): 293-297.

基于安全洗牌和差分隐私的联邦学习模型安全防护方法

PDF

可视化

摘要/Abstract

引用本文

使用本文

参考文献

相关文章 15

编辑推荐

Metrics