摘要
本发明提供了一种特定领域合同智能生成方法,包括以下步骤:S1、准备语料:将特定领域的多份合同范本转换成合同条款,将合同条款存至条款标准库,根据合同条款组成至少一类合同模板,将合同模板存至合同模板库;S2、构建语言模型:迁移开源LLM模型,将开源LLM模型自蒸馏为小语言模型;S3、代码预训练:采用CodeBERT模型对小语言模型进行代码预训练;S4、指令调整;S5、神经元预训练;S6、生成合同。本发明基于自蒸馏和代码预训练的方式有效避免大语言模型计算参数量过大的问题,基于指令调整和神经元预训练的方式能有效确保输出内容的可信度和针对性。
技术关键词
智能生成方法
构建语言模型
模板
指令
标记标签
大语言模型
校正
蒸馏
数据
参数
系统为您推荐了相关专利信息
分区模型
光伏结构
空天地一体化
调节支架
监测子系统
动态时间间隔
数据处理模块
数据接收模块
计算机程序指令
时间段
多源定位数据
标识
速度观测信息
时间段
计算机程序产品