摘要
本申请实施例提供了一种数据缓存方法、设备及存储介质,涉及人工智能芯片技术领域,该方法包括:将多个独立的后合并缓冲区物理合并为一个缓存资源池,缓存资源池包括多个条目。每次接收到线程束从内存读取的目标数据时,基于目标数据的目标索引信息遍历多个条目,以判断是否已针对目标索引信息分配相应的条目;若是,则将目标数据缓存到已分配的条目,使目标数据与已接收的对应目标索引信息的历史数据合并缓存;否则分配空闲的条目来缓存目标索引信息和目标数据;这样便可按照实时接收的目标数据的目标索引信息相应分配资源缓存池中的条目,实现缓冲区资源的按需分配,提高细粒度任务划分场景下的整体资源利用效率和整体计算性能。
技术关键词
条目
数据缓存方法
索引
计算机设备
人工智能芯片技术
计算机程序产品
可读存储介质
资源
内存
存储器
标记
指令
场景
标识
物理
系统为您推荐了相关专利信息
音频数据标注方法
关键字
自然语言
信噪比
性别分类器
综合评估方法
模糊综合评价方法
评价指标体系
碳排放评估技术
模糊综合评价模型
文档分析方法
动态知识图谱
实体
动态更新
扩散算法