一种算子执行方法、装置、计算机设备及存储介质

AITNT
正文
推荐专利
一种算子执行方法、装置、计算机设备及存储介质
申请号:CN202411710814
申请日期:2024-11-26
公开号:CN119576564A
公开日期:2025-03-07
类型:发明专利
摘要
本申请公开一种算子执行方法、装置、计算机设备及存储介质,属于人工智能技术领域,该方法中,在将第一算子输出的第一Layout的数据块阵列输入第二算子前,若确定第二算子的输入对应的是第二Layout,则根据数据块阵列包含的元素数量开辟一块连续的内存空间,先利用多个第一线程块,将数据块阵列中的元素线性存储到内存空间中,再利用多个第二线程块,将内存空间中的元素转换成第二Layout的数据块阵列输入第二算子,以执行第二算子。这样,通过一块连续的内存空间,可完成各种不同Layout之间的转换,提供了一种通用的Layout转换方案,由于无需对各种Layout之间的转换单独进行开发,所以能够降低开发成本。
技术关键词
内存架构 阵列 人工智能芯片 元素 数据 计算机设备 接口 人工智能技术 计算机程序产品 线性 执行装置 输入模块 尺寸 存储器 处理器 坐标 参数
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号