联邦学习（Federated Learning）

联邦学习（Federated Learning）是什么意思

联邦学习的工作原理

1. 初始化：中央服务器上使用可用数据的子集训练一个全局模型。
2. 模型分发：该模型被分发到参与的设备。
3. 本地训练：每个设备使用其本地数据来训练模型,从而生成本地模型。
4. 模型更新：各客户端将本地模型更新上传至中心服务器。
5. 全局聚合：中心服务器接收各客户端的数据后进行加权聚合操作,得到全局模型。
6. 模型分发：更新后的全局模型再次分发给各个客户端,继续进行下一轮训练。

联邦学习的分类

• 水平（横向）联邦学习：数据集共享相同特征空间但样本不同的场景。例如,两个区域的银行可能各自区域的用户群非常不同,且用户交集非常小,但是他们的业务非常相似,因此特征空间是相同的。
• 垂直（纵向）联邦学习：数据集共享相同样本但特征不同的场景。例如,两个金融机构可能拥有相同的用户群体,但各自记录的用户特征不同。
• 联邦迁移学习：当参与方的数据在特征和样本空间中都不完全相同时,使用迁移学习技术来共享知识。

联邦学习的应用

• 金融领域：微众银行利用联邦学习技术,在保护用户隐私的同时,提高金融服务的个性化和安全性。
• 医疗领域：不同医院之间共享医疗影像和电子病历的模型更新,提高疾病诊断的准确性。
• 智能设备：在智能手机和物联网设备上训练语言模型、图像识别模型等,保护用户数据隐私。
• 政务领域：利用不同城市交通管理部门的数据,联合优化交通流量预测和调度系统,减少拥堵和事故率。

联邦学习的最新进展

• 隐私保护技术：例如,润迅数智的联邦学习优化专利,通过神经网络模型隐私保护技术,进一步增强了数据的隐私保护。
• 边缘计算与联邦学习结合：微美全息正在研究分裂联邦学习（SFL）框架,利用边缘计算中的数据和模型并行加速联邦学习,降低通信成本,保护用户隐私。

总结