摘要
本发明涉及一种数据特征分析的医疗问答模型蒸馏构建方法,涉及模型优化领域,获取基础大模型;获取医疗问答数据集对基础大模型进行监督微调测试,获取多个专家网络的多个测试评分并在完成后还原基础大模型的参数;基于多个测试评分根据医疗问答数据集进行样本数据生成优化获得优化问答数据集;采用优化问答数据集和医疗问答数据集对基础大模型进行监督微调测试获取多个专家网络的多个融合测试评分,根据多个融合测试评分对多个专家网络进行剪枝处理,获得蒸馏完成的医疗问答模型,解决了问答大模型参数量庞大、部署成本大、时延高及难以在资源受限场景中有效应用的技术问题。
技术关键词
问答模型
蒸馏
分支
基础
生成训练数据
样本
生成对抗网络
参数
时延
受限
场景
节点
资源
系统为您推荐了相关专利信息
自主巡检方法
设备状态数据
异常设备
设备异常检测
螺旋式