通过参数外推增强大模型遗忘的辅助方法及系统

AITNT
正文
推荐专利
通过参数外推增强大模型遗忘的辅助方法及系统
申请号:CN202510360894
申请日期:2025-03-26
公开号:CN119886361B
公开日期:2025-07-01
类型:发明专利
摘要
本发明属于人工智能领域中的大语言模型遗忘技术领域。提供了一种通过参数外推增强大模型遗忘的辅助方法及系统,通过梯度上升对目标遗忘数据集进行遗忘操作;在遗忘操作结束后,在遗忘操作的多个训练轮次中,选择遗忘效果与模型效用之间平衡最优的模型参数,计算遗忘过程中的参数更新向量;根据平衡最优的模型参数以及所述参数更新向量,通过参数外推放大参数更新向量,以将遗忘效果扩展到与目标遗忘数据集相关的知识上;本发明利用参数外推技术,放大了模型在遗忘目标数据时对相关知识的遗忘效果,从而实现更彻底的遗忘,无需额外的训练数据即可显著提升遗忘效果,并在遗忘质量和模型效用之间实现了更好的平衡。
技术关键词
参数 数据 可读存储介质 辅助系统 推理机制 计算机程序产品 外推技术 患有糖尿病 处理器 胰岛素 计算机设备 逻辑 样本 指标 基础 患者
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号