摘要
本申请公开了一种处理方法、人工智能模型推理方法及电子设备,处理方法包括:在缓存中第一向量集合满足预设条件的情况下,基于采样单元根据第一向量集合中各向量对的生成顺序,将第一向量集合划分为多个连续的向量块,并基于各向量块在输入数据序列中对应的全局时序位置,对各向量块进行采样,得到第二向量集合;第一向量集合包括多个由第一向量和第二向量组成的向量对;向量块对应的全局时序位置与当前生成时序之间的时序距离越近,从向量块中采样到的向量对的数量越多;基于注意力计算单元,根据第二向量集合中第一向量确定注意力权重,并基于注意力权重和第二向量集合中第二向量,生成新的语义单元。
技术关键词
时序
人工智能模型
注意力
语义
推理方法
序列
数据
电子设备
标识
非线性