隐私保护的进化计算初探
1089
0
2024-01-18

近年来,隐私泄露越来越成为公众关注的问题。隐私计算作为一种能平衡数据隐私保护和数据可用性的关键技术备受学术界和工业界的青睐,兴起了以隐私计算赋能的各种隐私保护应用,如隐私保护的机器学习与推理、联邦学习等。

进化计算是计算智能技术的重要分支,已成为各类复杂优化难题的重要方法。进化计算具有天然的并行分布式计算特性。在并行分布式计算环境中部署和运行进化计算求解器,将不可避免地面临隐私保护问题。然而相关方向的研究工作尚未受到广泛关注。

为此,本团队对隐私保护的进化计算方法开展探索,取得了如下进展:

一、构建进化计算隐私保护问题的分析框架BOOM

该框架考虑了三种典型的分布式进化计算场景,即集中式优化(云中心节点提供进化计算求解器服务)、分布式优化(分布式多智能体协同运行进化计算优化)和数据驱动优化(基于大量隐私数据驱动的昂贵优化进化计算),从保护对象(Object)、动机(Motivation)、位置(pOsition)和方法(Method)四个维度分析和探讨不同的进化计算范式面临的隐私问题。

根据此范式,框架指出了隐私保护的进化计算的三类潜在研究方向:进化计算即服务、隐私保护的联合优化和隐私保护的数据驱动优化。隐私计算即服务探索云服务器在不泄露用户隐私数据的前提下,向有进化计算需求的用户提供进化计算服务。隐私保护的联合优化探索进化计算的群体智能优势,通过多个智能体协同进化的方式完成进化计算任务。隐私保护的数据驱动优化探索在目标函数不明晰的情况下,开展隐私保护的代理模型推理驱动的进化计算。

该论文发表在IEEE Computational Intelligence Magazine,该论文链接如下:https://ieeexplore.ieee.org/document/10384506

B. Zhao, W. -N. Chen, X. Li, X. Liu, Q. Pei and J. Zhang, "When Evolutionary Computation Meets Privacy," in IEEE Computational Intelligence Magazine, vol. 19, no. 1, pp. 66-74, Feb. 2024, doi: 10.1109/MCI.2023.3327892.

 

二、中心式优化:进化计算即服务模式的隐私保护遗传算法(PEGA

在上述研究思路的指引下,该团队分别就进化计算即服务、隐私保护的联合优化和隐私保护的数据驱动优化开展详细的研究,并在TCYB上发表了其团队的最新研究成果。

遵循进化计算即服务(Evolutionary Computation as a Service)的研究方向,该团队以遗传算法来具象化进化计算算法,并以具体的组合优化问题为例,开展研究,提出PEGAA Privacy-Preserving Genetic Algorithm for Combinatorial Optimization Problem)。其研究动机是使得云服务器将计算封装成一个服务,允许不具备进化计算编程和求解能力的用户将组合优化问题的求解外包给云服务器,同时要求云服务器不能获知用户的优化结果,以此来保护用户的隐私。为此,其发表的论文PEGA以团队前置研究成果安全的外包计算工具SOCIZhao B, Yuan J, Liu X, et al. SOCI: A toolkit for secure outsourced computation on integers[J]. IEEE Transactions on Information Forensics and Security, 2022, 17: 3637-3648.)为基础,针对遗传算法染色体编码、选择、交叉、编译和评估等几个核心的进化算子,设计对应的的隐私保护进化算子协议,实现进化算法子以加密的数据输入并输出加密的计算结果。研究成果在旅行商问题和0/1背包两个经典的组合优化问题上开展了实证研究,实验结果表明PEGA在寻找最优解时,具备与传统的遗传算法相同的寻优能力。

该论文发表在IEEE Transactions on Cybernetics, 论文链接如下:https://ieeexplore.ieee.org/document/10398448/

B. Zhao, W. -N. Chen, F. -F. Wei, X. Liu, Q. Pei and J. Zhang, "PEGA: A Privacy-Preserving Genetic Algorithm for Combinatorial Optimization," in IEEE Transactions on Cybernetics, doi: 10.1109/TCYB.2023.3346863.

 

三、分布式优化:联合优化模式的隐私保护粒子群算法(PriMPSO

遵循进化隐私保护的联合优化(Privacy-Preserving Federated Optimization)的研究方向,该团队以粒子群算法为研究对象,开展研究,提出PriMPSOA Privacy-Preserving Multi-Agent Particle Swarm Optimization Algorithm)。其研究动机是让多个参与者维护各自的本地的最优解,并使得多个参与者共同寻找全局最优解。为了保护优化解的隐私,PriMPSO设计协议使得参与者在不泄露各自本地最优解的情况下,通过多方联合隐私计算寻找全局最优解。该研究的核心设计了一个隐私保护的最佳参与者选择算法,该算法可以在不泄露任何参与者的本地最优解和谁是最佳参与者的情况下,完成最佳参与者的选择。在CEC2005 benchmark和众包任务分配实例下的实验评估结果表明,PriMPSO在寻找最优解时,具备与传统的粒子群算法相同的寻优能力。

该论文发表在IEEE Transactions on Cybernetics,原文链接如下:https://ieeexplore.ieee.org/document/9976052

B. Zhao et al., "PriMPSO: A Privacy-Preserving Multiagent Particle Swarm Optimization Algorithm," in IEEE Transactions on Cybernetics, vol. 53, no. 11, pp. 7136-7149, Nov. 2023, doi: 10.1109/TCYB.2022.3224169.

 

四、数据驱动的优化:隐私保护的边云协同进化算法(ECCoEAs

遵循进化隐私保护的数据驱动优化(Privacy-Preserving Data-driven Optimization)的研究方向,该团队以数据分布在网络边缘节点的单目标实数优化问题为例,开展研究,提出边云协同的分布式数据驱动优化算法框架(edge-cloud co-evolutionary algorithms for distributed data-driven optimizationECCoEAs)。其研究动机是利用局部数据构建的代理模型进行信息传递并辅助进化计算算法寻找最优解,而不传递原始数据。具体来说,该框架由一个通信机制、边缘模型管理和云模型管理三部分组成。边缘模型管理有效利用边缘服务器的计算力,负责边缘模型的构建、候选解的真实评估以及边缘优化。云模型管理中,利用边缘服务器传来的预测函数集成一个全局集成模型,并用这一模型辅助优化得到有望候选解,从而指导边缘模型管理。为了验证算法框架的通用性,分别结合差分进化算法和代理辅助层次粒子群优化算法实现了两个基于该框架的边云协同的分布式数据驱动进化优化算法。提出的算法框架将代理辅助进化算法拓展到分布式数据驱动优化问题上,与其集中式版本具有相近甚至更优的性能。

该论文发表在IEEE Transactions on Cybernetics,原文链接如下:https://ieeexplore.ieee.org/abstract/document/9965951

X. -Q. Guo, W. -N. Chen, F. -F. Wei, W. -T. Mao, X. -M. Hu and J. Zhang, "Edge–Cloud Co-Evolutionary Algorithms for Distributed Data-Driven Optimization Problems," in IEEE Transactions on Cybernetics, vol. 53, no. 10, pp. 6598-6611, Oct. 2023, doi: 10.1109/TCYB.2022.3219452.

 

近日已有越来越多的研究者参与隐私保护的进化计算研究。相信在不久的未来,隐私保护的进化计算将涌现一大批优秀的研究成果。

 

上述研究工作由华南理工大学陈伟能教授及其指导的博士毕业生赵搏文(2021年入职西安电子科技大学,华山菁英副教授)、郭晓琦、魏凤凤等共同开展。

 

 


登录用户可以查看和发表评论, 请前往  登录 或  注册
SCHOLAT.com 学者网
免责声明 | 关于我们 | 用户反馈
联系我们: