摘要
本发明公开了一种基于大语言模型的张量程序生成方法及系统,其中,方法包括以下步骤:(1)通过AI编译器测试工具nnsmith生成随机ONNX计算图;(2)将nnsmith生成的ONNX计算图导入TVM,并转换为RelayIR中间表示;(3)基于TVM内部的模型中间表示RelayIR,通过TVM中的自动调优器Ansor对模型进行调优,生成最优的张量程序,并输出调优时测量的JSON文件;(4)持续进行模型调优和张量程序测量,生成大量调优时的测量记录,形成一个张量程序数据集,数据集中包含张量程序的特征以及对应的优化pass list;(5)根据生成的张量程序数据集训练大语言模型,以实现对张量程序的理解和生成。本发明通过自动化工具和大语言模型的结合,可以实现高效的张量程序生成和优化。
技术关键词
程序生成方法
大语言模型
生成随机
程序生成系统
测试工具
自动化工具
数据
并行策略
搜索算法
格式化
列表
存储器
处理器
样本
框架
接口
参数
模块
系统为您推荐了相关专利信息
数据
动态优化方法
大语言模型
格式
强化学习算法
大语言模型
资源
健康评估方法
项目
健康评估装置