摘要
本发明属于NLP大模型领域,公开了一种基于大模型的多语言攻击性检测方法,包括:构建并清洗多语言攻击性检测的数据集;加载Llama2模型进行改造,并在改造后进行预训练得到预训练语言模型;基于数据集,采用LoRA微调方法对所述预训练语言模型进行微调,得到微调模型;利用微调模型进行多语言攻击性检测。本发明提升了模型的性能。与此同时,该方法又减少了模型的参数量,使得模型在实际的系统中部署时更加灵活和高效。
技术关键词
攻击性检测方法
键值
预训练语言模型
注意力
多语言
微调方法
标签
字典
数据
参数
样本
索引
阶段
系统为您推荐了相关专利信息
注意力机制
识别系统
上下文管理
多用户
数据获取单元
大语言模型
语义特征
自然语言
图谱
生成提示信息