全网唯一标准王
(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211010629.5 (22)申请日 2022.08.22 (71)申请人 电子科技大 学长三角研究院 (湖州) 地址 313000 浙江省湖州市西塞山路819号 科技创新综合体B1幢 (72)发明人 骆春波 许燕 沙小豹 高海瑞  刘翔 罗杨  (74)专利代理 机构 广州三环 专利商标代理有限 公司 44202 专利代理师 唐莉梅 (51)Int.Cl. H04L 9/40(2022.01) H04B 7/185(2006.01) H04W 52/34(2009.01) G06N 20/00(2019.01) (54)发明名称 一种基于部分客户参与和功率约束的联邦 学习方法 (57)摘要 本发明属于通信技术领域, 公开了一种基于 部分客户参与和功率约束的联邦学习方法, 包 括: 采用有偏见的客户选择, 设置客户端可寻址 并不断向中央服务器报告, 令中央服务器在迭代 过程中了解每个客户端的状态; 通过添加总和功 率约束进行跨通信时隙的功率分配, 令设备地将 所述设备的本地更新传输到服务器。 本发明通过 减小通信成本解决现有技术的问题, 同时保持模 型收敛性能。 本发明提出的设计可以解决由不完 美的信道状态引起的负面影 响。 学习过程的收敛 在功率控制下减慢, 而有偏见的客户选择加速了 收敛, 权衡了模型聚合。 本发明可 以保证在低信 噪比的恶劣无线条件下快速收敛, 在无线FL系统 的时间和能源节约方面具有成本效益。 权利要求书2页 说明书10页 附图4页 CN 115549962 A 2022.12.30 CN 115549962 A 1.一种基于部分客户参与和功率约束的联邦学习方法, 其特征在于, 所述基于部分客 户参与和功率约束的联邦学习方法包括: 步骤一, 采用有偏见的客户选择, 设置客户端可寻址并不断向中央服务器报告, 令 中央 服务器在迭代过程中了解每 个客户端的状态; 步骤二, 通过添加总和功率约束进行跨通信时隙的功率分配, 令设备地将所述设备的 本地更新传输 到服务器。 2.如权利要求1所述基于部分客户参与和功率约束的联邦学习方法, 其特征在于, 所述 步骤一包括: (1)客户端连接到服务器并寻求共 同找到模型参数最小化经验损失函数; 选择损失最 大的前M个客户端执 行本地更新; (2)采用具有线性增量子集的客户选择策略: 设置 选择当前全 局模型进行全局更新的top ‑M最高局部损失的客户端; 定 义客户选择策略函 数πtm, 将全局模 型w(t)映射到 选定的客户集S( πtm,w)。 3.如权利要求2所述基于部分客户参与和功率约束的联邦学习方法, 其特征在于, 所述 经验损失函数如下: 其中, F(w)表示经验损失函数; K表示客户端数量; w*表示模型参数; f(w, ξ )表示从本地 数据集Bk和模型参数w中随机选择的样本批次ξ的损失函数; pk表示第k个客户端 的数据比 例; Fk(w)表示客户k的本地损失函数; F*=minwF(w), 4.如权利要求1所述基于部分客户参与和功率约束的联邦学习方法, 其特征在于, 所述 基于部分客户参与和功率约束的联邦学习方法还 包括: 客户端选择 FedAvg的迭代 t的更新规则如下: 其中, wm(t,E)表示客户端m在t时的局部模型参数, 表示批次ξ (t,E)上的随机梯度, 表示全局模型参数。 5.如权利要求1所述基于部分客户参与和功率约束的联邦学习方法, 其特征在于, 所述 选择损失最大的前M个客户端执 行本地更新包括: 设备不断地将所述设备本地丢失发送到 中央服务器, 服务器始终跟踪每个响应设备的 可用性和训练状态; 客户端选择 由服务器根据设备 的最新状态和信道状态信息进行, 并在 聚合前广播给设备; 将未被选中的客户端的最新损失值记录设置为 1; 同时被选中的设备相 应的上传对应的模型参数: 权 利 要 求 书 1/2 页 2 CN 115549962 A 2其中 和 表示全局模型参数, M表示活动客户端集的大小, b表示小批量的大 小。 6.如权利要求1所述基于部分客户参与和功率约束的联邦学习方法, 其特征在于, 所述 步骤二中, 通过添加总和功率约束进行跨通信时隙的功率分配, 令设备地将所述设备 的本 地更新传输 到服务器包括: 1)通过无线衰落MAC连接设备和参数服 务器的系统进行建模, 并采用OFDM进行传输; 2)在分布式SGD或DSGD中, 服务器接收来自邻居的叠加信号: 在DSGD算法的第t轮通信 中, 本地更新通过无线衰落MAC发送到服务器, 具有N个时隙的s个子信道; 将子通道 到 分配给设备m∈[M]; 对于发射功率 设备m*(t)和服务器之间的 并行无线高斯信道容 量利用下式确定: 其中, 表示在通信回合t分配给设备m的功率; 3)子信道上的功率分配pm[s]适应相应的信道系数hm[s]以通过AirComp进行梯度聚合: 服务器根据一定的聚合 规则聚合消息获得新的全局模型 更新。 7.一种实施如权利要求1 ‑6任意一项所述基于部分客户参与和 功率约束的联邦学习方 法的无线联邦学习通信系统。 8.一种计算机设备, 其特征在于, 所述计算机设备包括存储器和处理器, 所述存储器存 储有计算机程序, 所述计算机程序被所述处理器执行时, 使得所述处理器执行如权利要求 1‑6任意一项所述基于 部分客户参与和功率约束的联邦学习方法的步骤。 9.一种计算机可读存储介质, 存储有计算机程序, 所述计算机程序被处理器执行时, 使 得所述处理器执行如权利要求 1‑6任意一项所述基于部 分客户参与和功率约束的联邦学习 方法的步骤。 10.一种信息数据处理终端, 其特征在于, 所述信息数据处理终端用于实现如权利要求 7所述无线联邦学习通信系统。权 利 要 求 书 2/2 页 3 CN 115549962 A 3

PDF文档 专利 一种基于部分客户参与和功率约束的联邦学习方法

文档预览
中文文档 17 页 50 下载 1000 浏览 0 评论 0 收藏 3.0分
温馨提示:本文档共17页,可预览 3 页,如浏览全部内容或当前文档出现乱码,可开通会员下载原始文档
专利 一种基于部分客户参与和功率约束的联邦学习方法 第 1 页 专利 一种基于部分客户参与和功率约束的联邦学习方法 第 2 页 专利 一种基于部分客户参与和功率约束的联邦学习方法 第 3 页
下载文档到电脑,方便使用
本文档由 SC 于 2024-03-03 12:06:10上传分享
友情链接
站内资源均来自网友分享或网络收集整理,若无意中侵犯到您的权利,敬请联系我们微信(点击查看客服),我们将及时删除相关资源。