摘要
本申请公开了一种引入注意力机制的文本样本均衡化处理方法及系统,涉及数据均衡化处理领域,其方法包括:接收文本样本集,对文本样本集进行特征提取,得到向量矩阵;将文本样本集输入Transformer网络结构,得到注意力输出值,Transformer网络结构包括多头注意力机制;根据注意力输出值与向量矩阵,对每个文本样本进行重要性评估,得到重要性评分;对重要性评分小于预设阈值的文本样本进行文本增强,并更新文本样本集;在更新后的文本样本集中添加对抗样本,得到新文本样本集;采用自适应采样策略调整每个样本类别的样本数量,得到用于表示文本样本集的最终文本样本集。本申请可以均衡化文本样本,有效提高模型的整体性能。
技术关键词
样本
文本
引入注意力机制
多头注意力机制
网络结构
前馈神经网络
机器可读存储介质
依存句法分析
同义词
矩阵
序列
插值算法
指令
策略
分类器
存储器
图谱
系统为您推荐了相关专利信息
被动红外传感器
门锁
语音识别文本
语音交互方法
音频
机械故障检测
断路器
液压油
神经网络模型
输出特征
能源智能管理
BP神经网络预测
数据分析模块
能源需求量
三维模型