线性注意力模型的训练方法、电子设备及存储介质

AITNT
正文
推荐专利
线性注意力模型的训练方法、电子设备及存储介质
申请号:CN202510434163
申请日期:2025-04-08
公开号:CN120542503A
公开日期:2025-08-26
类型:发明专利
摘要
本申请提供了一种线性注意力图像生成模型的训练方法、电子设备及存储介质,涉及计算机技术领域。该方法包括确定基准数据集;对线性注意力模型进行训练,直至得到完成训练的线性注意力模型,且训练中对每层的图像标记进行注意力计算时,先沿右方向扫描一半通道维度,再沿左方向扫描另一半通道维度;计算所述线性注意力模型每个时间步所生成的图像与真实图像的特征距离,并根据特征距离的大小对所述线性注意力模型进行调整。本申请解决了相关技术中线性注意力图像生成模型无法实现全局上下文信息捕捉的问题,实现了网络层上的双向注意力,增强了模型对图像数据的理解能力,还提高了生成图像的质量。
技术关键词
注意力模型 图像生成模型 线性 通道 标记 双向注意力 电子设备 两次扫描 数据 输出特征 处理器 序列 存储器 基准 像素 编码 分辨率 文本
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号