(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202210550681.3 (22)申请日 2022.05.20 (71)申请人 华南师范大学 地址 510631 广东省广州市天河区中山大 道西55号华南师范大学计算机学院 (72)发明人 李萍　唐坤生　宋轶德　罗添　 袁慧　 (74)专利代理 机构 广州嘉权专利商标事务所有 限公司 4 4205 专利代理师 陈嘉乐 (51)Int.Cl. G06F 21/62(2013.01) G06F 16/215(2019.01) G06N 20/00(2019.01) (54)发明名称 一种基于机器学习的隐私保护方法、 系统、 设备及介质 (57)摘要 本发明公开了一种基于机器学习的隐私保 护方法、 系统、 设备及介质， 其中， 方法包括： 将差 分隐私噪声输入无味卡尔曼滤波器进行过滤处 理， 确定过滤噪声； 将所述过滤噪声输入机器学 习模型进行训练处理， 确定输出模型； 对所述输 出模型进行实用性评估处理和隐私性评估处理， 确定模型评估 结果； 根据所述模 型评估结果对所 述输出模型进行调整， 确定目标模 型并输出隐私 保护数据； 本实施例能够提高差分隐私机器学习 模型的实用性， 可广泛应用于数据保护技术领 域。 权利要求书2页 说明书7页 附图1页 CN 114896630 A 2022.08.12 CN 114896630 A 1.一种基于 机器学习的隐私保护方法， 其特 征在于， 包括： 将差分隐私噪声输入无味卡尔曼 滤波器进行 过滤处理， 确定过 滤噪声； 将所述过 滤噪声输入机器学习模型进行训练 处理， 确定输出模型； 对所述输出模型进行实用性评估处 理和隐私性评估处 理， 确定模型评估结果； 根据所述模型评估结果对所述输出模型进行调整， 确定目标模型并输出隐私保护数 据。 2.根据权利要求1所述的一种基于机器学习的隐私保护方法， 其特征在于， 所述将差分 隐私噪声输入无味卡尔曼 滤波器进行 过滤处理， 确定过 滤噪声， 包括： 对所述差分隐私噪声 进行采样处 理， 确定采样噪声； 对所述采样噪声 进行预测处理， 确定预测结果； 根据所述预测结果对所述采样噪声 进行更正处理， 确定过 滤噪声。 3.根据权利要求1所述的一种基于机器学习的隐私保护方法， 其特征在于， 所述将所述 过滤噪声输入机器学习模型进行训练 处理， 确定输出模型， 包括： 根据所述过 滤噪声对机器学习模型中的数据集进行噪声干扰， 确定 输出模型。 4.根据权利要求1所述的一种基于机器学习的隐私保护方法， 其特征在于， 所述将所述 过滤噪声输入机器学习模型进行训练 处理， 确定输出模型， 包括： 根据所述过滤 噪声对机器学习 模型中的网络权重进行加噪过滤， 并将过滤后的结果输 入下一轮模型训练过程， 确定 输出模型。 5.根据权利要求1所述的一种基于机器学习的隐私保护方法， 其特征在于， 所述将所述 过滤噪声输入机器学习模型进行训练 处理， 确定输出模型， 包括： 根据所述过 滤噪声对机器学习模型中的学习分布律进行噪声干扰， 确定 输出模型。 6.根据权利要求1所述的一种基于机器学习的隐私保护方法， 其特征在于， 所述对所述 输出模型进行实用性评估处 理和隐私性评估处 理， 确定模型评估结果， 包括： 对所述输出模型进行 预测准确率对比处 理， 确定实用性评估结果； 对所述输出模型进行推断攻击对比处 理， 确定隐私性评估结果； 根据所述实用性评估结果和所述隐私性评估结果， 确定模型评估结果。 7.根据权利要求1所述的一种基于机器学习的隐私保护方法， 其特征在于， 所述根据 所 述模型评估结果对所述输出模型进行调整， 确定目标模型并输出隐私保护数据， 包括： 根据所述模型评估结果对过 滤噪声进行调整， 确定调整噪声； 对所述输出模型输入所述调整噪声进行噪声干扰， 确定目标模型并输出隐私保护数 据。 8.一种基于 机器学习的隐私保护系统， 其特 征在于， 包括： 第一模块， 用于将差分隐私噪声输入无味卡尔曼 滤波器进行 过滤处理， 确定过 滤噪声； 第二模块， 用于将所述过 滤噪声输入机器学习模型进行训练 处理， 确定输出模型； 第三模块， 用于对所述输出模型进行实用性评估处理和隐私性评估处理， 确定模型评 估结果； 第四模块， 用于根据所述模型评估结果对所述输出模型进行调整， 确定目标模型并输 出隐私保护数据。 9.一种电子设备， 其特 征在于， 包括处 理器以及存 储器；权　利　要　求　书 1/2 页 2 CN 114896630 A 2所述存储器用于存 储程序； 所述处理器执行所述程序实现如权利要求1 ‑7中任一项所述的方法。 10.一种计算机可读存储介质， 其特征在于， 所述存储介质存储有程序， 所述程序被处 理器执行实现如权利要求1 ‑7中任一项所述的方法。权　利　要　求　书 2/2 页 3 CN 114896630 A 3