硬件平台间算子迁移方法及装置、迁移模型构建方法

AITNT
正文
推荐专利
硬件平台间算子迁移方法及装置、迁移模型构建方法
申请号:CN202411833554
申请日期:2024-12-13
公开号:CN119292667B
公开日期:2025-03-18
类型:发明专利
摘要
本申请公开了一种硬件平台间算子迁移方法及装置、迁移模型构建方法。其中,迁移方法包括:获取待迁移算子的算子代码、功能标签;在目标硬件平台的已有算子信息不包含功能标签时,获取目标硬件平台的第一信息、源硬件平台的第二信息;基于第一信息、第二信息对大语言模型进行训练,将训练好的大语言模型作为算子自动迁移开发模型;基于算子自动迁移开发模型、算子代码,生成与目标硬件平台的精度需求匹配的初始算子;对初始算子进行分析,获得算子精度差;将验证通过的算子精度差对应的初始算子作为目标算子;并存储目标算子至目标硬件平台的对应层级。该方法能够实现模型算子在不同硬件平台上的自动无感迁移,实现与不同平台的高效、无缝适配。
技术关键词
硬件平台 迁移方法 模型构建方法 策略 精度 标签 逻辑 计算机装置 大语言模型 层级 指令 可读存储介质 误差 计算机程序产品 处理器通信 接口 时延
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号