摘要
本发明公开了一种基于模型协同推理的领域特定代码补全方法,属于代码补全领域。本方法包括:首先微调规模较小的模型来学习领域特定代码知识,接着分别使用微调过的模型与大语言模型完成代码补全任务,收集模型在推理过程中输出的特征信息用于训练面向特定领域的分类器,最后在推理过程中使用该分类器融合不同模型的推理结果,以实现更精确的代码补全本发明通过微调规模较小的语言模型以学习领域特定的代码知识,相较于直接微调大规模语言模型,有效降低了模型部署与训练成本;根据大语言模型与微调后的语言模型的输出提取特征以训练分类器,能够帮助自适应地、高效地结合大语言模型与微调后的语言模型的推理结果,提高推理精度与速度。
技术关键词
代码补全方法
大语言模型
小规模
分类器模型
解码算法
频率
训练分类器
令牌
开源项目
序列
关键字
标识符
训练集
框架
速度
数据
代表
精度