一种模型优化方法以及相关装置

AITNT
正文
推荐专利
一种模型优化方法以及相关装置
申请号:CN202411649898
申请日期:2024-11-19
公开号:CN119166159B
公开日期:2025-06-13
类型:发明专利
摘要
本申请属于人工智能领域,尤其涉及一种模型优化方法以及相关装置。该方法能够识别目标模型中符合拆分条件的计算操作;拆分计算操作,得到多个子计算操作;在目标模型载入硬件计算系统的过程中,将多个子计算操作重配置到对应的目标运算单元中;硬件计算系统至少包括多个运算单元,每一运算单元基于汇编指令调用的硬件芯片资源组成;通过目标运算单元执行各自对应的子计算操作,得到多个子计算结果;将多个子计算结果应用到目标模型的数据处理流程中。该方法能够通过识别、拆分、重配置和并行执行神经网络模型中的计算操作,提高计算效率、硬件利用率、灵活性和实时性能,降低计算操作时延,为模型执行硬件加速操作,提升神经网络模型性能。
技术关键词
数据交互关系 模型优化方法 神经网络模型 矩阵 计算机程序指令 数据交互结构 可读存储介质 芯片 优化装置 处理器 资源 收发器 存储器 电子设备 时延 数值
系统为您推荐了相关专利信息
1
基于自适应时延估计的绳驱动机械臂轨迹跟踪控制方法
轨迹跟踪控制方法 驱动机械臂 时延 机械臂关节 跟踪期望轨迹
2
一种基于重组再分解的跨模态推荐方法和系统
项目 属性分类器 文本 推荐方法 分块
3
去蜂窝大规模多输入输出通感一体化系统的功耗优化方法
无线接入点分配 一体化系统 空间相关矩阵 功耗优化方法 信道估计值
4
屏幕色差消除方法及装置、芯片、电子设备和存储介质
亮度 色差消除装置 光源 发光二极管显示面板 色差消除方法
5
一种结合模型微调和知识图谱的质量鉴证方法
鉴证方法 文本 图谱 编码策略 规范化技术
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号