摘要
本发明公开一种模型处理方法、数据处理方法、装置、设备和存储介质,涉及人工智能技术领域。模型处理方法包括:获取预先训练好的多模态大模型,并对多模态大模型进行量化处理,得到第一轻量大模型;利用预先构建的低秩适应结构,对第一轻量大模型的模型结构进行改造,得到第二轻量大模型;其中,低秩适应结构是由第一低秩矩阵、激活函数和第二低秩矩阵串联构成;对第二轻量大模型中第一低秩矩阵和第二低秩矩阵的权重进行训练微调,并将训练微调后的第二轻量大模型作为用于部署在端侧设备中执行多模态任务的端侧轻量大模型。采用本发明可以恢复量化后大模型的精度,能够更精准的执行各种多模态任务。
技术关键词
多模态
矩阵
数据处理方法
并联方式
子模块
可读存储介质
数据处理装置
人工智能技术
数据获取模块
数据处理模块
计算机
处理器通信
蒸馏
决策
存储器
样本
电子设备
系统为您推荐了相关专利信息
风味物质
白酒酿造工艺
代谢网络模型
工艺模拟方法
空间分布特征
预编码向量
最大化系统
基站
加权均方误差最小化
变量
资源配置信息
生成用户
生成可执行
生成方法
计算机执行指令