一种任务处理方法、装置、计算机设备及存储介质

AITNT
正文
推荐专利
一种任务处理方法、装置、计算机设备及存储介质
申请号:CN202510957506
申请日期:2025-07-09
公开号:CN120849048A
公开日期:2025-10-28
类型:发明专利
摘要
本发明涉及人工智能和自然语言处理技术领域,公开了一种任务处理方法、装置、计算机设备及存储介质,方法包括:对输入文本任务进行动态分批次处理,得到常规批次和超长批次;检测待处理文本任务中属于超长批次的任务作为优先文本任务,通过硬件中断机制实现优先文本任务对当前文本任务的抢占式调度;采用局部‑全局混合注意力机制对优先文本任务进行计算;采用第一稀疏率计算属于常规批次的文本任务,生成第一历史键值对;采用第二稀疏率计算优先文本任务,生成第二历史键值对;将第一历史键值对缓存于第一缓存池,第二历史键值缓存于第二缓存池。该方法可应用于金融科技业务领域,实现了对超长与常规文本任务的高效差异化处理和计算资源优化。
技术关键词
文本 抢占式调度 键值 注意力机制 动态时间规整算法 计算机设备 设备架构 处理器 可读存储介质 序列 哈希表 自然语言 矩阵 处理单元 存储器 标签 节点
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号