摘要
本申请公开了一种自然语言处理模型的优化方法及装置,涉及信息安全技术领域,包括:通过采用迭代式束搜索的方式降低文本困惑度的同时保证文本质量,即同时在处理过程中对可读性和有用性进行了定量评估和筛选,并利用优化改造后的混合数据进行模型微调,减轻第三方数据中的有害文本对模型安全对齐的影响,以此提升大模型的安全性能和对齐程度,解决了相关技术中,无法有效应对大语言模型的安全对齐,难以从根本上降低第三方数据中的可能存在的有害信息伤害的技术问题,达到了提升大语言模型的安全性能和对齐程度,确保大语言模型在面对数据安全问题时,能够给出安全、可靠的响应,避免提供有害的信息的技术效果。
技术关键词
自然语言
文本
知识性
三元组
数据安全
逻辑分析
序列
主题
大语言模型
信息安全技术
可读存储介质
存储计算机程序
计算机程序产品
优化装置
采样模块
处理器
策略
电子设备