基于小波变换的大模型微调方法

AITNT
正文
推荐专利
基于小波变换的大模型微调方法
申请号:CN202510553436
申请日期:2025-04-29
公开号:CN120471135A
公开日期:2025-08-12
类型:发明专利
摘要
本发明提出的基于小波变换的大模型微调方法,通过结合小波变换与低秩矩阵适应方法,显著提升了视觉语言模型在小样本学习任务中的性能。适用于医学影像分析、卫星纹理识别等需要细粒度特征适应的场景中。其核心在于利用小波变换的局部化特性,将模型参数更新分解为低频分量和高频分量,并通过逆小波变换融合多尺度信息,从而实现对复杂视觉任务的高效适配。实验结果表明,该方法相较于其他方法在准确率上得到了明显的提升。其创新点包括:首次将小波变换引入低秩矩阵适应方法框架,通过多分辨率分解实现全局‑局部特征优化,增强对复杂信号的自适应能力。这些创新使得基于小波变换的大模型微调方法在大模型微调领域具有显著的优势与应用潜力。
技术关键词
微调方法 矩阵 小波变换技术 融合多尺度信息 数据分布 离散小波变换 细粒度特征 注意力 预训练模型 作业场景 多分辨率 视觉 有效性 纹理 核心 样本 阶段
系统为您推荐了相关专利信息
1
一种基于非对称PWL函数和模拟退火算法的NLFM信号优化方法
信号优化方法 模拟退火优化 模拟退火算法 控制点 表达式
2
用于防御对抗攻击的模型训练方法
模型训练方法 后验概率 计算机可执行指令 矩阵 图像分类模型
3
文本匹配模型的训练方法、文本匹配方法及设备
特征提取网络 音频 样本 文本匹配方法 语法特征
4
基于大模型和知识图谱的长输管网供热系统自动驾驶平台
供热系统 长输管网 大语言模型 数字孪生模型 图谱
5
一种基于O波和X波信号分离的测向方法
测向方法 坐标系 短波测向技术 环天线 多重信号分类算法
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号