一种面向Triton编译器流水线的优化系统及优化方法

AITNT
正文
推荐专利
一种面向Triton编译器流水线的优化系统及优化方法
申请号:CN202411075543
申请日期:2024-08-07
公开号:CN118605850B
公开日期:2024-11-12
类型:发明专利
摘要
本发明公开一种面向Triton编译器流水线的优化系统及优化方法,系统包括方言管理器、转换过程管理器、自定义优化过程构造器、优化过程管理器、流水线构造器、优化过程测试器和性能评估器。本发明通过自定义优化过程构造器为用户提供的用于编写转换过程涉及的方言的操作组合的性能优化策略的接口和模板,使得用户能够有针对性地设计优化策略,提升代码运算性能;优化过程管理器允许针对不同GPU架构添加特定的优化pass过程,使得优化系统具有更好的GPU适应性;优化过程测试器确保优化过程的正确执行,性能评估器提供量化评估,使得优化效果可验证。本发明的优化系统能够对方言、转换过程、优化过程进行精细控制,提供了优化系统的管理灵活性和可扩展性。
技术关键词
流水线 管理器 数据访问模式 策略 测试器 基准测试程序 内存访问模式 模式匹配 语句 分析模块 调度算法 语义 冗余 异构 模板 接口
系统为您推荐了相关专利信息
1
面向营销推广线上平台的数据录入方法
数据录入方法 人工决策方法 数据分类 动态 长短期记忆模型
2
基于实时定位置信度评估的动态数据闭环系统及优化方法
闭环 激光雷达点云数据 云端 多传感器采集 数据采集策略
3
管理系统级高速缓存
存储器访问模式 系统级 客户端 分区 计算机
4
一种构网型控制优化方法
控制优化方法 动态调整机制 控制优化装置 邻域 控制参数优化方法
5
风险监测方法及系统、电子设备、可读存储介质
风险监测方法 风险评估值 项目 可读存储介质 数值
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号