摘要
一种通过集成学习实现多模型参数化知识编辑的方法,它属于大模型知识编辑领域。本发明解决了现有知识编辑方法仅能修改单个大型语言模型,不适用于需要同时更新多个大型语言模型的复杂场景的问题。本发明通过引入一种动态权重机制,使用[WEIGHT]标记来预测每个实例的权重分配,可以在确保有效利用集成模型中知识的同时,新知识的更新不会对无关信息产生影响。本发明还通过以零向量而非中心模型的分布开始解码搜索,并优先选取融合分布中概率值较高的标记进行解码,从而确保解码过程由融合知识驱动,避免中心大型模型在集成结果中占主导地位,提高了知识编辑的精确性和泛化能力。本发明方法可以应用于大模型知识编辑领域。
技术关键词
插件模型
多模型
文本
知识编辑方法
sigmoid函数
权重机制
超参数
梯度下降法
矩阵
标记
解码
元素
策略
标签
场景
动态
系统为您推荐了相关专利信息
智能外呼机器人
语音识别模块
语音识别系统
语音识别引擎
号码
双向长短期记忆
服务特征
资源特征
服务调用拓扑
融合特征