(19)国家知识产权局 (12)发明 专利申请 (10)申请公布号 (43)申请公布日 (21)申请 号 202211026383.0 (22)申请日 2022.08.25 (71)申请人 暨南大学 地址 510630 广东省广州市天河区黄埔大 道西601号 (72)发明人 曾国强　杨耀伟　耿光刚　翁健　 黄家承　张宇　 (74)专利代理 机构 杭州求是专利事务所有限公 司 33200 专利代理师 邱启旺 (51)Int.Cl. H04L 9/40(2022.01) H04L 67/12(2022.01) G16Y 40/50(2020.01) G16Y 40/20(2020.01)G16Y 40/10(2020.01) G16Y 30/10(2020.01) G06N 3/08(2006.01) G06N 3/04(2006.01) G06N 3/00(2006.01) G06K 9/62(2022.01) (54)发明名称 基于混合神经网络模型优化的物联网入侵 检测系统及方法 (57)摘要 本发明公开了一种基于混合神经网络模型 优化的物联网入侵检测系统及方法。 从物联网系 统历史数据库中采集生成过程的历史监控数据， 经过数据解析和归一化后作为物联网入侵检测 离线优化模块的输入数据集， 设计基于离散粒子 群优化技术的混合神经网络模型优化平台， 获得 物联网入侵检测特征库和混合神经网络最优模 型， 针对物联网系统实时数据库中的实时监控数 据， 从而实现物联网入侵检测的在线检测。 本发 明不仅可实现用于物联网入侵检测系统的混合 神经网络模 型的自动生成和优化 设计， 提高了物 联网入侵检测系统的智能化设计水平和设计效 率， 还提升了物联网系统入侵检测的精准率、 召 回率和F1评分等性能指标。 权利要求书4页 说明书9页 附图2页 CN 115412332 A 2022.11.29 CN 115412332 A 1.一种基于混合神经网络模型优化的物联网入侵检测系统， 其特征在于， 该系统包括 物联网入侵检测的数据解压模块、 数据预处理模块、 混合神经网络模型离线优化模块和在 线检测模块； 所述物联网入侵检测的数据解压模块包括数据嗅探和数据采集两个子模块， 即首先将 物联网通讯流量数据进行数据嗅探， 通过将网卡置于混杂模式， 将网络中的通讯流量以报 文为单位存储进系统中； 数据采集模块收到通讯报文后， 将其汇总成网络流的形式并产生 相对应的特 征； 将数据解压模块处理后的网络流发送到数据 预处理模块， 所述数据预处理模块包括数 据解析和数据归一化两个子模块； 数据解析子模块对其中所有类别特征进 行汇总并产生特 征映射表， 特征表中类别特征与数值特征一一对应； 根据特征表将数据中的类别特征全部 转换为数值特征， 从而获得源数据集， 将其标记为X， 并按照公式(1)进行数据的归一化处 理， 将归一化处理后获得的数据集标记为Xo， 再将Xo进行序号随机化处理并以7:3的比例分 配进训练集Xo1与验证集Xo2中； 其中， Xoj表示数据集Xo第j维度的特征， Xj表示源数据集X第j维度的特征， Xjmax与Xjmin分 别表示Xoj的最小值与最大值， m表示数据集Xo维度的最大值； 将Xo1与Xo2传输到混合神经网络模型离线优化模 块， 所述混合神经网络模型离线优化模 块通过离散粒子群优化技术对混合神经网络模型进行优化搜索， 获得混合神经网络的最优 模型信息； 将获得的最优模型信 息传输到在线检测模块， 所述在线检测模块基于最优模型的混合 神经网络模型进行入侵检测， 若检测到入侵则产生报警信息并评估 入侵检测性能指标。 2.一种应用权利要求1所述系统的基于混合神经网络模型优化的物联网入侵检测方 法， 其特征在于， 包括以下步骤： (1)设置基于混合神经网络模型优化的离线优化训练模块的参数值， 所述参数值包括 种群大小N、 混合神经网络模型架构与超参数优化的迭代优化次数Gmax、 混合神经网络模型 离线训练的轮次E1、 混合神经网络模型进行离线验证的轮次E2、 混合神经网络模型二进制编 码维度D、 粒子群优化求解器中惯性系数的最大值ωmax、 惯性系数的最小值ωmin、 速度的最 大值vmax、 速度的最小值vmin， 自身认知的学习因子ρ1， 群体认知的学习因子ρ2； (2)随机产生包含N个粒子的初始粒子群P0， 即P0＝{p1,…,pi,…,pN,1≤i≤N}， 其中pi 表示P0中第i个粒子， pi将待优化设计的混合神经网络模型的超参数和网络架构参 数编码成 一个D维的二进制向量， pi位置的具体编码如公式(2)所示： pi＝{x1,L,xd,L,xD},1≤d≤D      (2) 其中， xd表示混合神经网络模型的超参数和网络架构参数编码的第d位二进制数值， xd ∈{0,1}， 将pi位置所对应的混合神经网络模型的超参数和网络架构参数标记为qi， 即qi表 示第i个粒子所对应的混合神经网络模型超参数和网络架构参数的实数向量； 其中， [B,f, η]表示混合神经网络模型所采用的超参数， B代表混合神经网络模型训练权　利　要　求　书 1/4 页 2 CN 115412332 A 2时采用的批大小， f代表混合神经网络模型训练时所采用的优化器类型， f∈{sgd , momentum,nesterov,adagrad,adamax,adam,rmsprop,adadelta}， sgd表示随机梯度下降 (Stochastic  Gradient  Descent， SGD)， momentum表示具有动量(Momentum)的随机梯度下 降， nest erov表示涅斯捷罗夫加速梯度(Nesterov  Accelerated  Gradient)， a dagrad表示 自适应梯度(Adaptive  Gradient  Algorithm)， adamax表示自适应矩估计最大值优化 (Adaptive Mome nt Estimation Max,Adamax)， a dam表示自适应矩估计(Adap tive Moment  Estimation)， rmsp rop表示均方根 反向传播(Root  Mean Squre Propogation)， ada delta表 示在均方根反向传播的基础上， 对相 邻两步迭代的差值(即迭代增量)进 行累计加权和的优 化求解方法； η代表 混合神经网络模型训练时采用的学习率大小； nc代表混合神经网络模型 中卷积层的层数， convj代表第j层卷积层， 1≤j≤nc， nf代表混合神经网络模型中全连接层 的层数， fck代表第k层全连接层， 1≤k≤nf； convi的具体组成如公式(4)所示： convj＝[paj,knj,ksj,psj,afj],1≤j≤nc   (4) 其中， paj代表第j层卷积层的填充类型， paj∈{valid,same}， valid表示不填充， same表 示填充输入以使输出具有与原始输入相同的长度， knj代表第j层卷积层的卷积核个数， ksj 代表第j层卷积层的卷积核大小， p sj代表第j层卷积层的所接的池化层大小， afj代表第j层 卷积层的激活函数类型， afj∈{sigmoid,tanh,relu,none}， sigmoid表示S型函数， tanh表 示双曲正切函数， relu表示线性整流函数， none表示不做处理； 全连接层fck的具体组成如 公式(5)所示： fck＝[ftk,nnk,afk,rtk,drk],1≤k≤nf   (5) 其中， ftk代表第k层 全连接层的类型， ftk∈{rnn,lstm,gru,linear}， rnn表示循环神经 网络(Recurrent  Neural Network)， l stm表示长短期记忆人工神经网络(Long  Short‑Term  Memory)， gru表示门循环单元(Gate  Recurrent  Unit)， linear表示线性层(Linear   Layer)， nnk代表第k层全 连接层的神经元数量， afk代表第k层全 连接层的激活函数类型， afk ∈{sigmoid,tanh,relu,none}， rtk代表第k层全连接层正则化类型， rtk∈{L1‑L2,L2,L1, none}， L1 ‑L2表示L1与L2的混合正则化， L2表示L2正则化， L1表示L1正则化， none表示不做 处理， drk代表第i层全连接层的舍弃(Dropout)概率。 再根据公式(6)初始化每个粒子pi的运 动速度 其中 表示针对第i个粒子pi的第d维随机产生的一个0 到1范围内的随机数； (3)设置初始迭代次数g＝1， 将初始粒子群P0作为当前迭代次数g＝1的粒子群Pg＝P0， 对粒子群Pg进行性能评估， 性能评估具体过程如下： 将Pg中每个粒子所表征的超参 数和网络 架构实数qi转化为对应的混合神经网络模 型， 将离线训练数据集Xo1作为每个 混合神经网络 模型的数据 输入， 进行E1轮次的离线训练； 针对验证集Xo2进行E2轮次的验证测试， 按照公式 (7)获得每个粒子对应的准确率， 统计出粒子群Pg中最优的准确率， 将粒子群Pg中最优准确 率对应的粒子位置标记 为粒子群中全局最优位置Ggbest， 并将每个粒子pi历史上获得的最优 准确率对应的位置标记为历史最 好位置pgibest； 权　利　要　求　书 2/4 页 3 CN 115412332 A 3