神经网络模型的量化方法、装置、介质和设备

AITNT
正文
推荐专利
神经网络模型的量化方法、装置、介质和设备
申请号:CN202410773328
申请日期:2024-06-14
公开号:CN118607607A
公开日期:2024-09-06
类型:发明专利
摘要
本公开实施例公开了一种神经网络模型的量化方法、装置、介质和设备,其中,方法包括:基于神经网络模型运算时的运算算子及对应的输入数据,确定输入数据对应的量化输入数据;从多个预设数据区间中确定量化输入数据对应的目标数据区间,多个预设数据区间基于量化算子的输出值随输入值的变化梯度大小确定;量化算子为运算算子量化后的算子;基于量化输入数据和目标数据区间对应的索引信息,确定量化输入数据对应的目标量化输出值;基于目标量化输出值,确定输入数据经运算算子计算后的量化结果。本公开实施例可以提高整体查表精度。
技术关键词
索引 数据 神经网络模型 非线性 误差 线段 电子设备 处理器 参数 可读存储介质 指令 模块 存储器 计算机 精度 关系
系统为您推荐了相关专利信息
1
一种毒情监测系统
指标 分析模块 监测系统 图像识别模型 报告
2
基于客户的个性化数据生成销售业务匹配话术方法及系统
对话机器人 客户 在线机器人 引导系统 NLP技术
3
基于反事实基线的无人机集群近端策略优化协同对抗方法
无人机集群对抗 导弹 基线 无人机集群协同 多智能体强化学习
4
一种面向空中集群目标的无人机协同最优覆盖探测方法
无人机协同 集群 灰狼优化算法 雷达 网格
5
一种基于人工智能的老年人能力综合评估方法
综合评估方法 区域卫生信息平台 语义向量 学生 强化学习模型
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号