一种外贸领域大模型构建方法及系统

AITNT
正文
推荐专利
一种外贸领域大模型构建方法及系统
申请号:CN202411380688
申请日期:2024-09-30
公开号:CN119337961A
公开日期:2025-01-21
类型:发明专利
摘要
一种外贸领域大模型构建方法,1)准备用于外贸领域大模型有监督指令微调的训练与测试数据;2)数据预处理,对整合的所有数据进行清洗,对数据进行预处理,包括去除噪声、标准化格式、分割对话、去重等操作,以确保数据的质量和一致性;3)加载LLaMA2‑7B模型,利用人工标志好的部分领域数据与开源的无害性数据训练奖励模型,以获得更符合领域意图和无害性的奖励模型;4)利用训练好的奖励模型反向清洗1)和2)过程所整合所有指令跟随数据;5)加载指令跟随微调后的大模型和奖励模型,采用强化学习中近端优化策略对SFT模型进行训练,以获得符合领域用户意图的大模型。
技术关键词
模型构建方法 开源数据库 意图 指令 人工标志 人工标记 代码库 人类 格式 策略 噪声 语义 算法 文本 参数
系统为您推荐了相关专利信息
1
一种视觉Transformer模型设计方法、装置、存储介质和程序产品
模型设计方法 图像 视觉 多头注意力机制 计算机装置
2
一种防丢器数据的智能处理方法与防丢器
防丢器 定位单元 运载装置 信号 数据中心
3
一种基于应用分发平台的更新管理系统
版本更新 传输路径 更新管理系统 平台 节点
4
基于图像识别的折页机纸张调整方法及装置
折页机 边缘检测模型 像素点 指数 图像
5
对象推荐方法、计算设备、电子设备以及存储介质
对象推荐方法 列表 多模态 索引 操作界面
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号