一种基于大语言模型的张量程序生成方法及系统

AITNT
正文
推荐专利
一种基于大语言模型的张量程序生成方法及系统
申请号:CN202411688372
申请日期:2024-11-25
公开号:CN119201132B
公开日期:2025-05-16
类型:发明专利
摘要
本发明公开了一种基于大语言模型的张量程序生成方法及系统,其中,方法包括以下步骤:(1)通过AI编译器测试工具nnsmith生成随机ONNX计算图;(2)将nnsmith生成的ONNX计算图导入TVM,并转换为RelayIR中间表示;(3)基于TVM内部的模型中间表示RelayIR,通过TVM中的自动调优器Ansor对模型进行调优,生成最优的张量程序,并输出调优时测量的JSON文件;(4)持续进行模型调优和张量程序测量,生成大量调优时的测量记录,形成一个张量程序数据集,数据集中包含张量程序的特征以及对应的优化pass list;(5)根据生成的张量程序数据集训练大语言模型,以实现对张量程序的理解和生成。本发明通过自动化工具和大语言模型的结合,可以实现高效的张量程序生成和优化。
技术关键词
程序生成方法 大语言模型 生成随机 程序生成系统 测试工具 自动化工具 数据 并行策略 搜索算法 格式化 列表 存储器 处理器 样本 框架 接口 参数 模块
系统为您推荐了相关专利信息
1
一种用于大模型训练的文档格式转换方法及装置
文本 文档格式转换方法 多模态 指标 表格
2
一种将自然语言问题转换为SQL的方法、装置、设备和介质
自然语言 数据 样本 大语言模型 关键词
3
基于强化学习的大模型工具调用分层动态优化方法及系统
数据 动态优化方法 大语言模型 格式 强化学习算法
4
资源投产健康评估方法、装置、介质及设备
大语言模型 资源 健康评估方法 项目 健康评估装置
5
一种基于大语言模型的渗透测试知识注入方法和系统
大语言模型 指令 渗透测试工具 测试平台 子模块
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号