摘要
本发明公开了一种基于鲁棒‑轻量化Transformer模型优化的电网对抗防御方法与系统,该方法将Transformer‑Encoder中的注意力头数、激活函数类型、Encoder中的层数及学习率、丢弃率等超参数作为决策变量,将优化过程中多分类检测良性样本F1分数性能较好的模型作为对抗攻击替换模型,并基于投影梯度下降攻击生成对抗样本,引入对抗训练后的模型参数数量、多分类检测良性样本1‑F1分数和对抗攻击成功率最小化作为优化目标,设计基于精英个体外部存档机制的多目标离散优化技术进行离线优化迭代,将获得的鲁棒‑轻量化Transformer模型进行在线部署,以实现智能电网入侵检测系统的对抗防御。
技术关键词
样本
智能电网信息
编码器
物理融合系统
数据
优化器
参数
更新方法
因子
入侵检测系统
前馈神经网络
注意力
构建鲁棒
随机梯度下降
在线
模块
防御系统
线性单元
系统为您推荐了相关专利信息
资源
数据处理方法
计算机可执行指令
数据处理模型
多模态
信息管理服务系统
传感器组件
电缆传感器
配电室
SF6气体传感器