摘要
本申请公开了一种低秩适配器热更新方法、装置、存储介质及电子设备,涉及人工智能技术领域,该方法包括:从适配器管理端下载旧版本低秩适配器对应的新版本低秩适配器;将所述新版本低秩适配器保存在本地存储中的适配器仓库内;复制继承所述旧版本低秩适配器的低秩适配器控制块;根据所述低秩适配器控制块进行状态迁移处理,以使用所述适配器仓库内的所述新版本低秩适配器对所述旧版本低秩适配器进行热更新。本申请可以在无需停止大模型在线服务的情况下更新低秩适配器,无需重新发布大模型,无需重新发布低秩适配器,而实现低秩适配器的快速热更新,有效支撑大模型的快速灵活的版本迭代,提升大模型的可扩展与可维护性。
技术关键词
图形处理器
控制块
适配器管理
热更新方法
内存
仓库
电子设备
人工智能技术
模块
存储器
计算机
在线
参数
系统为您推荐了相关专利信息
服务集群
线性整数规划
高斯分布模型
概率分布函数
资源消耗预测
隐私风险评估
数据生成模型
轨迹
物联网终端设备
防护方法
性能分析方法
大语言模型
性能分析系统
内存
数据