一种模型量化方法及计算设备

AITNT
正文
推荐专利
一种模型量化方法及计算设备
申请号:CN202411398783
申请日期:2024-09-30
公开号:CN120471116A
公开日期:2025-08-12
类型:发明专利
摘要
本申请实施例公开了一种模型量化方法及计算设备,训练设备量化预训练模型,得到预训练量化模型;训练设备基于预训练量化模型搭建第一原始业务模型;训练设备基于N个业务数据分别量化感知训练第一原始业务模型,分别得到N个目标业务模型;N个目标业务模型中的第t目标业务模型包括共享量化权重参数和N个目标业务模型中的第t业务量化权重参数;一个业务对应一个目标业务模型;t依次为从1到N的整数。本申请实施例,可以提高各业务的量化效果,优化模型变更时的训练的部署过程。
技术关键词
训练设备 业务网络 参数 模型更新 微调方法 数据 计算机程序代码 预训练模型 存储器 处理器 指令 矩阵 可读存储介质 适配器 元素 主板 文本 刻度 语音
系统为您推荐了相关专利信息
1
云服务集群的检测方法、装置、电子设备及存储介质
网关 云服务集群 机房 通信链路 指令
2
一种网络入侵防御方法、装置、设备及存储介质
强化学习模型 网络入侵防御方法 网络流量数据 入侵检测规则 策略
3
一种快充充电控制方法及系统
编码向量 双向注意力 充电设备 语义协同 充电控制方法
4
一种基于特征增强的多跳对比学习节点分类方法
节点分类方法 迭代方法 邻居 神经网络技术 矩阵
5
显示画质评测方法、装置、终端设备和存储介质
线性色彩空间 图像 显示模组 链路 评测方法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号