文本推理方法、装置、设备、存储介质及产品

AITNT
正文
推荐专利
文本推理方法、装置、设备、存储介质及产品
申请号:CN202511105094
申请日期:2025-08-07
公开号:CN120996193A
公开日期:2025-11-21
类型:发明专利
摘要
本申请公开了一种文本推理方法、装置、设备、存储介质及产品,涉及文本推理技术领域,所述文本推理方法包括:获取用户输入的用于问答的长文本,其中,所述长文本的长度处于预设的文本推理模型的推理区间;将所述长文本输入至预设的文本推理模型进行推理,得到推理结果,其中,所述预设的文本推理模型中的稀疏注意力模式基于所述推理区间确定,所述预设的文本推理模型的推理过程是基于CPU资源实现的。本申请的预设的文本推理模型中的稀疏注意力模式是在推理前基于预设的推理区间确定的,可以规避在模型推理过程中动态计算,不需要额外计算。
技术关键词
文本推理方法 注意力 分词 计算机程序产品 模式 键值 推理技术 推理装置 处理器 精度 可读存储介质 资源 存储器 样本 编码 矩阵 模块 数据
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号