代码生成器的自动调优方法、装置、存储介质、程序产品

AITNT
正文
推荐专利
代码生成器的自动调优方法、装置、存储介质、程序产品
申请号:CN202411818719
申请日期:2024-12-11
公开号:CN119783775A
公开日期:2025-04-08
类型:发明专利
摘要
本发明提出一种代码生成器的自动调优方法、装置、存储介质、程序产品,该方法包含:依据给定的大模型推理芯片的特性定义搜索空间,将给定的搜索算法集成到所述大模型推理芯片的软件开发环境中,并利用给定的搜索算法,经过多轮循环,生成参数列表种群,所述参数列表种群包含若干参数列表;根据所述参数列表种群配置具体模板参数,生成核函数的定义部分、流水缓冲级以及结果寄存器转存到全局内存的过程;通过编译器编译生成的核函数,并在所述大模型推理芯片上执行,对生成的所述核函数进行性能测量,获取核函数性能指标,并将所述参数列表种群和对应的核函数性能指标作为键值对加入到所述性能字典中。
技术关键词
列表 搜索算法 自动调优方法 软件开发环境 生成参数 搜索模块 字典 键值 GPU处理器 芯片 筛选器 定义 大尺寸 流水 计算机程序产品 内存 高性能 词典
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号