摘要
本发明涉及人工智能和自然语言处理技术领域,公开了一种任务处理方法、装置、计算机设备及存储介质,方法包括:对输入文本任务进行动态分批次处理,得到常规批次和超长批次;检测待处理文本任务中属于超长批次的任务作为优先文本任务,通过硬件中断机制实现优先文本任务对当前文本任务的抢占式调度;采用局部‑全局混合注意力机制对优先文本任务进行计算;采用第一稀疏率计算属于常规批次的文本任务,生成第一历史键值对;采用第二稀疏率计算优先文本任务,生成第二历史键值对;将第一历史键值对缓存于第一缓存池,第二历史键值缓存于第二缓存池。该方法可应用于金融科技业务领域,实现了对超长与常规文本任务的高效差异化处理和计算资源优化。
技术关键词
文本
抢占式调度
键值
注意力机制
动态时间规整算法
计算机设备
设备架构
处理器
可读存储介质
序列
哈希表
自然语言
矩阵
处理单元
存储器
标签
节点