摘要
本发明提供一种基于低秩自适应增强的多模态大模型进行视觉任务处理的方法和装置,涉及数据处理技术领域,所述方法包括:接收视觉应用发送的多个视觉任务请求以及所述多个视觉任务请求中每个视觉任务请求对应的视觉输入数据;通过编排器将所述多个视觉任务请求动态调度为多个批次的处理序列,并确定每个批次的视觉输入数据使用的低秩适配器的推理模式;将所述每个批次的视觉输入数据以及对应的低秩适配器输入至目标多模态大模型中,通过自适应分片矩阵乘法算子ATMM对视觉输入数据和对应的低秩适配器的分解矩阵进行动态分片计算,得到所述每个视觉任务请求对应的响应结果。通过本发明提供的方法,满足多样化的视觉任务需求。
技术关键词
适配器
视觉
分片
多模态
模式
矩阵
动态
负载特征
非暂态计算机可读存储介质
融合算法
支持高并发
标识符
旁路
序列
数据处理技术
精度
处理器
存储器
电子设备
系统为您推荐了相关专利信息
旋转变压器解码
过零信号
激励发生器
观测器
同步器
移动平台路径规划
障碍物
地面激光雷达
平台结构
三维点云数据
锻压设备
设备健康状态
设备故障模式
设备剩余使用寿命
无线传感网络
融合特征
特征提取网络
输出特征
零件表面缺陷
多模态
远程健康管理
人工智能模型
传感模块
移动机器人
多模态