摘要
本申请涉及深度学习的技术领域,特别是涉及一种指令复用方法、装置、计算机设备及程序产品。方法包括确定与当前输入问题对应的关联问题,关联问题的长度与当前输入问题的长度一致,或关联问题与当前输入问题的具体序列一致,具体序列为输入问题的长度与已生成回答长度的和;将历史内存搬运指令中的任务地址修改为当前输入问题所对应的目标地址,得到待执行搬运指令,历史内存搬运指令为关联问题对应的任务指令;执行待执行搬运指令,以处理当前输入问题对应的任务。采用本申请的方案能够降低大语言模型对内存空间的占用。
技术关键词
地址偏移量
指令
内存
复用方法
计算机设备
搬运单元
序列
大语言模型
计算机程序产品
模块
可读存储介质
处理器
有效性
标记