摘要
本发明公开了一种大语言模型常识知识注入的细粒度服饰图像检索方法及装置。该方法首先通过图像编码器提取输入图像的细粒度视觉特征,并结合低秩适配器进行优化,以提高图像补丁级别的表示能力。接着,通过预训练的大语言模型生成属性增强的常识性知识上下文,丰富图像属性表示,从而帮助模型理解和推理开放场景中未知的属性信息。本发明引入了可切换模态提示和插补机制,保证在属性或文本缺失时能够动态补充代理嵌入。在检索过程中,通过属性引导的跨模态注意力机制,基于图像特征和属性增强上下文之间的关系进行细粒度图像内容匹配。本发明通过多模态特征对齐和优化,提高了在开放世界场景中进行服饰图像检索的准确性和鲁棒性。
技术关键词
图像检索方法
大语言模型
图像编码器
服饰
补丁
图像检索装置
视觉特征
文本
编码器模块
多模态特征
适配器
计算机程序产品
处理器
注意力机制
跨模态
三元组
可读存储介质