一种融合预训练与动态微调技术的大语言模型方法及系统

AITNT
正文
推荐专利
一种融合预训练与动态微调技术的大语言模型方法及系统
申请号:CN202411125381
申请日期:2024-08-15
公开号:CN119129719A
公开日期:2024-12-13
类型:发明专利
摘要
本发明涉及大语言模型技术领域,尤其涉及一种融合预训练与动态微调技术的大语言模型方法及系统,本发明提出以下方案,首先通过审计知识建立审计语言池,对审计语言池进行预训练,其次根据审计信息在审计语言池中寻找最匹配的审计知识进行配对,最后构建微调模型,根据配对的结果对审计语言池进行微调。本发明通过全面、动态、真实地获得审计对象的总体信息,帮助内部审计人员高效地识别审计信息,对内外部审计数据的交叉验证和组合分析,也为企业规避经营风险提供更好的参考依据。
技术关键词
关键词特征 微调技术 三元组 节点 动态 专家经验库 语义特征 大语言模型 数据 概念 注意力机制 模块 同义词 术语 序列 策略 指令 日志
系统为您推荐了相关专利信息
1
融合交通预测与用户行为建模的电动汽车充电站运行模拟方法
充电站 排队模型 时序预测模型 交通流 动态更新
2
一种基于大数据的信息显示方法和系统
关键词提取模型 信息显示方法 注意力模型 信息显示系统 大数据
3
基于强化学习的车辆能源链路实时调度方法及系统
深度Q网络 车辆运行数据 能源 电池SOC值 链路
4
基于四元量子空间的知识图谱连接预测方法
三元组 实体 更新知识图谱 关系 逻辑
5
一种基于多任务学习的空管对话式语音识别方法及装置
语音活动检测 语音识别方法 语音编码器 多任务学习模型 声学特征
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号