基于大模型的任务处理方法、装置、智能体、设备、介质和产品

本公开提供了一种基于大模型的任务处理方法、装置、智能体、设备、介质和产品，涉及计算机技术领域，尤其涉及自然语言处理、深度学习等人工智能技术领域。该基于大模型的任务处理方法包括：响应于接收待处理任务，确定用于待处理任务的目标批处理尺寸；根据目标批处理尺寸，确定用于待处理任务的存储空间；以及基于候选批处理尺寸与候选计算图之间的映射关系，调用与目标批处理尺寸对应的目标计算图，对从存储空间获取的任务数据执行大模型推理，得到任务处理结果。