摘要
本发明公开了一种多源异构大语言模型融合方法及系统,所述方法包括:通过预训练的K个来源大型语言模型获得一组概率分布矩阵;利用预设的对齐策略对所述一组概率分布矩阵进行对齐,得到对齐的一组概率分布矩阵;将所述对齐的一组概率分布矩阵进行融合,得到融合的概率分布矩阵;将预设的目标大型语言模型根据所述融合的概率分布矩阵以预设的融合目标进行持续训练,得到最终模型。本发明实现了高质量的大语言模型融合。
技术关键词
大语言模型
矩阵
融合方法
异构
融合系统
对齐模块
策略
标记
文本
处理器
标签
计算机设备
序列
编辑
可读存储介质
表达式
词语
指标
系统为您推荐了相关专利信息
无线信道状态信息
信道估计优化
波束权值
PDCCH资源
信道特征参数
控制一体化方法
无人艇集群
分布式通信网络
高海况
模型预测控制算法