低秩适配器热更新方法、装置、存储介质及电子设备

AITNT
正文
推荐专利
低秩适配器热更新方法、装置、存储介质及电子设备
申请号:CN202411444259
申请日期:2024-10-15
公开号:CN119336371A
公开日期:2025-01-21
类型:发明专利
摘要
本申请公开了一种低秩适配器热更新方法、装置、存储介质及电子设备,涉及人工智能技术领域,该方法包括:从适配器管理端下载旧版本低秩适配器对应的新版本低秩适配器;将所述新版本低秩适配器保存在本地存储中的适配器仓库内;复制继承所述旧版本低秩适配器的低秩适配器控制块;根据所述低秩适配器控制块进行状态迁移处理,以使用所述适配器仓库内的所述新版本低秩适配器对所述旧版本低秩适配器进行热更新。本申请可以在无需停止大模型在线服务的情况下更新低秩适配器,无需重新发布大模型,无需重新发布低秩适配器,而实现低秩适配器的快速热更新,有效支撑大模型的快速灵活的版本迭代,提升大模型的可扩展与可维护性。
技术关键词
图形处理器 控制块 适配器管理 热更新方法 内存 仓库 电子设备 人工智能技术 模块 存储器 计算机 在线 参数
系统为您推荐了相关专利信息
1
一种设置有双层处理器主板的服务器
处理器芯片 主板 内存条 散热器 散热片
2
面向服务质量抖动约束的XR渲染微服务集群容量最大化规划方法
服务集群 线性整数规划 高斯分布模型 概率分布函数 资源消耗预测
3
针对算力集群的通信方法、装置、电子设备及存储介质
RDMA协议 接收端 集群 时延 大语言模型
4
基于边缘计算的无线通信自适应安全防护方法及系统
隐私风险评估 数据生成模型 轨迹 物联网终端设备 防护方法
5
性能分析方法
性能分析方法 大语言模型 性能分析系统 内存 数据
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号