面向金融行业的可信隐私计算评测解决方案

信息安全研究 ›› 2022, Vol. 8 ›› Issue (E2): 120-.

面向金融行业的可信隐私计算评测解决方案

韩蒙1,2杨波3,4邱晓慧3,4林昶廷1,2

1(浙江大学滨江研究院杭州310053)
2(浙江君同智能科技有限责任公司杭州310053)
3(国家金融科技测评中心研发中心北京100070)
4(银行卡检测中心北京100070)

出版日期:2023-01-31 发布日期:2023-02-12
通讯作者: 韩蒙博士，研究员.主要研究方向为数据驱动的智能、数据安全和隐私保护. mhan@zju.edu.cn
作者简介:韩蒙博士，研究员.主要研究方向为数据驱动的智能、数据安全和隐私保护. mhan@zju.edu.cn 杨波博士，副研究员.主要研究方向为可信计算与金融科技安全. yangbo@bctest.com 邱晓慧硕士.主要研究方向为联邦学习安全、人工智能安全、多方安全计算. qiuxiaohui@bctest.com 林昶廷博士，副研究员.主要研究方向为网络空间安全、计算机网络. linchangting@zju.edu.cn

Online:2023-01-31 Published:2023-02-12

摘要/Abstract

摘要： 在大数据、人工智能等技术在金融行业不断融合应用的背景下，金融机构的数据保护意识与对数据价值挖掘的需求日益增长，基于联邦学习的各类隐私计算平台应用也越来越广泛.然而，金融行业隐私计算平台还存在易受恶意样本攻击、样本偏见攻击等问题，为了实现隐私计算平台的数据安全测评，提出面向金融行业的可信隐私计算评测解决方案，构建联邦学习可信安全评测的集成框架.首先设计联邦学习数据安全性测试工具，利用数据中毒攻击方式检测恶意数据对联邦建模的影响，实现联邦数据安全可信评测；其次设计联邦学习数据公平性测试工具，利用数据偏见攻击方式检测偏见数据对联邦建模的影响，实现联邦数据偏见评测.提出的可信隐私计算评测解决方案以期提供面向金融行业的隐私计算可信安全评测服务，提升数据与算法的安全性、可靠性，实现隐私计算技术在联合风控、联合营销、黑名单共享等金融行业场景的可信安全应用.

关键词: 关键词隐私计算, 联邦学习, 安全测评, 中毒攻击, 偏见攻击

中图分类号:

韩蒙, 杨波, 邱晓慧, 林昶廷, . 面向金融行业的可信隐私计算评测解决方案[J]. 信息安全研究, 2022, 8(E2): 120-.

参考文献

参考文献
［1］微众银行AI项目组. 联邦学习白皮书V1.0［M］. 深圳: 微众银行, 2018［2］Yao A. Protocols for secure computations［C］ Proc of the 23rd Annual Symp on Foundations of Computer Science (FOCS). Piscataway, NJ: IEEE, 1982: 15［3］Garfinkel T, Pfaff B, Chow J, et al. Terra: A virtual machinebased platform for trusted computing［C］ Proc of the 19th ACM Symp on Operating Systems Principles (SOSP). New York: ACM, 2003: 193206［4］Mcmahan H B, Moore E, Ramage D, et al. Communicationefficient learning of deep networks from decentralized data［J］. Artificial Intelligence and Statistics, 2017, 54(1): 12731282［5］Yang Q, Liu Y, Chen T, et al. Federated machine learning: Concept and applications［J］. ACM Trans on Intelligent Systems and Technology, 2019, 10(2): 119［6］闫树, 吕艾临. 隐私计算发展综述［J］. 信息通信技术与政策, 2021, 1(6): 111［7］Rabin M O. How to exchange secrets with oblivious transfer［J］. Technical Report (Harvard University), 2005, 187(1): 128［8］Yao C C. How to generate and exchange secrets［C］ Proc of the Symp on Foundations of Computer Science (FOCS). Piscataway, NJ: IEEE, 2008: 162167［9］Goldwasser S, Micali S, Rackoff C. The Knowledge Complexity of Interactive ProofSystems［M］. New York: ACM, 2019［10］Beimel A. Secretsharing schemes: A survey［C］ Proc of Int Conf on Coding and Cryptology. Berlin: Springer, 2011: 1146［11］Rivest R L, Shamir A, Adleman L. A method for obtaining digital signatures and publickey cryptosystems［J］. Communications of the ACM, 1978, 21(2): 120126［12］朱天清, 何木青, 邹德清. 基于差分隐私的大数据隐私保护［J］. 信息安全研究, 2015, 1(3): 224229［13］王坤庆, 刘婧, 赵语杭, 等. 联邦学习安全威胁综述［J］. 信息安全研究, 2022, 8(3): 223234［14］邱晓慧, 杨波, 赵孟晨, 等. 联邦学习安全防御与隐私保护技术研究［J］. 计算机应用研究, 2022, 39(11): 113

[1]	朱悦, 庄媛媛, . 联邦学习的个人信息保护合规分析框架[J]. 信息安全研究, 2023, 9(2): 162-.
[2]	张海涛, 包森成, 何志坚. 隐私计算在算力网络中的实践应用[J]. 信息安全研究, 2022, 8(E2): 130-.
[3]	黄湘洲, 彭长根, 谭伟杰, 李震, . 面向数据安全治理的联邦学习模型投毒DCR防御机制[J]. 信息安全研究, 2022, 8(4): 357-.
[4]	王坤庆, 刘婧, 赵语杭, 吕浩然, 李鹏, 刘炳莹, . 联邦学习安全威胁综述[J]. 信息安全研究, 2022, 8(3): 223-.
[5]	粟勇, 刘文龙, 刘圣龙, 江伊雯, . 基于安全洗牌和差分隐私的联邦学习模型安全防护方法[J]. 信息安全研究, 2022, 8(3): 270-.
[6]	傅思敏, 王健, 鹿全礼, 赵阳阳, . 面向交通流量预测隐私保护的联邦学习方法[J]. 信息安全研究, 2022, 8(10): 1035-.
[7]	张彦司群冯凤娟. 铁路网络安全测评体系研究[J]. 信息安全研究, 2020, 6(8): 738-743.
[8]	张艳彭华熹何申. 移动终端安全要求测评技术研究及应用[J]. 信息安全研究, 2020, 6(5): 427-432.
[9]	陈雪鸿杨帅锋孙岩. 工业控制系统安全等级保护测评研究[J]. 信息安全研究, 2020, 6(3): 272-278.
[10]	杨强. AI与数据隐私保护：联邦学习的破解之道[J]. 信息安全研究, 2019, 5(11): 961-965.
[11]	贾世准麦松涛李冬陈志远肖静. 智能网联汽车软件安全测试关键技术研究[J]. 信息安全研究, 2018, 4(11): 1025-1028.