一种任务调度方法、装置、中心服务器及存储介质

AITNT
正文
推荐专利
一种任务调度方法、装置、中心服务器及存储介质
申请号:CN202510682708
申请日期:2025-05-26
公开号:CN120704859A
公开日期:2025-09-26
类型:发明专利
摘要
本发明实施例提供了一种任务调度方法、装置、中心服务器及存储介质,涉及大语言模型技术领域。方法包括:获取待预填充文本单元的第一数目;计算目标处理结果的文本单元的预测数目与已生成文本单元的数目的差值,得到第二数目;从各执行服务器中确定备选执行服务器;针对每一备选执行服务器,基于第一数目和第二数目,预测该备选执行服务器所需的时长;基于各备选执行服务器所需的时长,从各备选执行服务器中确定目标执行服务器,并向目标执行服务器发送待处理文本,以使目标执行服务器基于大语言模型,使用目标执行服务器当前可用的目标资源对待处理文本进行处理,可以均衡使用服务器的计算资源和存读资源。
技术关键词
文本 大语言模型 任务调度方法 阶段 中心服务器 资源 解码 任务调度装置 通信接口 可读存储介质 存储器 处理器 数据迁移 样本 模块 字符 计算机 编码
系统为您推荐了相关专利信息
1
使用扩散模型监督视觉语言模型训练的方法
交叉注意力机制 线性变换矩阵 视觉 适配器 Softmax函数
2
基于多阶段贝叶斯优化的模拟集成电路测试激励生成方法
模拟集成电路测试 激励生成方法 组合故障 多阶段 拉丁超立方采样
3
一种基于信任度的用户分配方法、装置、设备及介质
服务交互数据 信任度模型 语音 计算机可读指令 文本
4
基于异质特征联合学习的数显仪表识读处理方法及系统
特征联合学习 卷积特征 数显仪表读数 文本识别模型 模糊推理
5
基于强化学习的多模态大模型任务处理方法、装置及设备
视觉 策略更新 格式 多模态 数据分布
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号