一种基于联邦学习的鲁棒性检测方法、装置、设备及介质与流程

本发明涉及鲁棒性检测，具体而言，涉及一种基于联邦学习的鲁棒性检测方法、装置、设备及介质。

背景技术：

1、联邦学习是一种新兴的机器学习方法，旨在实现多个参与方之间的模型训练和协作，同时保护用户数据的隐私和安全，目前的联邦学习鲁棒性检测技术主要集中在基于异常检测和安全聚合算法等方面，但是现有的检测技术主要采用被动防御方式，过分依赖先验知识和规则，易导致误报率高。

技术实现思路

1、本发明的目的在于提供一种基于联邦学习的鲁棒性检测方法、装置、设备及介质，以改善上述问题。

2、为了实现上述目的，本申请实施例提供了如下技术方案：

3、一方面，本申请实施例提供了一种基于联邦学习的鲁棒性检测方法，所述方法包括：

4、获取第一全局模型，所述第一全局模型为服务器端训练的模型；

5、将所述第一全局模型发送至本地端，并利用本地端的数据集对所述全局模型进行更新训练，得到至少一个本地模型；

6、根据至少一个所述本地模型生成第一恶意模型；

7、将所述第一恶意模型发送至服务器端进行聚合并根据聚合后的全局模型进行鲁棒性检测。

8、第二方面，本申请实施例提供了一种基于联邦学习的鲁棒性检测装置，所述装置包括：

9、获取模块，用于获取第一全局模型，所述第一全局模型为服务器端训练的模型；

10、第一处理模块，用于将所述第一全局模型发送至本地端，并利用本地端的数据集对所述全局模型进行更新训练，得到至少一个本地模型；

11、第二处理模块，用于根据至少一个所述本地模型生成第一恶意模型；

12、检测模块，用于将所述第一恶意模型发送至服务器端进行聚合并根据聚合后的全局模型进行鲁棒性检测。

13、第三方面，本申请实施例提供了一种基于联邦学习的鲁棒性检测设备，所述设备包括存储器和处理器。存储器用于存储计算机程序；处理器用于执行所述计算机程序时实现上述基于联邦学习的鲁棒性检测方法的步骤。

14、第四方面，本申请实施例提供了一种可读存储介质，所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现上述基于联邦学习的鲁棒性检测方法的步骤。

15、本发明的有益效果为：

16、本发明通过在本地生成第一恶意模型再将第一恶意模型上传至服务器端干扰全局模型更新，继而通过观察测试前后全局模型性能表现来判断联邦学习系统的鲁棒性，有效的提高了联邦学习系统的鲁棒性检测效率和速度。

17、本发明的其他特征和优点将在随后的说明书阐述，并且，部分地从说明书中变得显而易见，或者通过实施本发明实施例了解。本发明的目的和其他优点可通过在所写的说明书、权利要求书、以及附图中所特别指出的结构来实现和获得。

1.一种基于联邦学习的鲁棒性检测方法，其特征在于，包括：

2.根据权利要求1所述的基于联邦学习的鲁棒性检测方法，其特征在于，根据至少一个所述本地模型生成第一恶意模型，包括：

3.根据权利要求1所述的基于联邦学习的鲁棒性检测方法，其特征在于，将所述第一恶意模型发送至服务器端进行聚合并根据聚合后的全局模型进行鲁棒性检测，包括：

4.根据权利要求2所述的基于联邦学习的鲁棒性检测方法，其特征在于，根据所述排序后的神经网络生成第一恶意模型，包括：

5.一种基于联邦学习的鲁棒性检测装置，其特征在于，包括：

6.根据权利要求5所述的基于联邦学习的鲁棒性检测装置，其特征在于，所述第二处理模块，包括：

7.根据权利要求5所述的基于联邦学习的鲁棒性检测装置，其特征在于，所述检测模块，包括：

8.根据权利要求6所述的基于联邦学习的鲁棒性检测装置，其特征在于，所述第二处理单元，包括：

9.一种基于联邦学习的鲁棒性检测设备，其特征在于，包括：

10.一种可读存储介质，其特征在于：所述可读存储介质上存储有计算机程序，所述计算机程序被处理器执行时实现如权利要求1至4任一项所述基于联邦学习的鲁棒性检测方法的步骤。