一种基于LoRA的大模型微调方法、装置、设备及介质

AITNT
正文
推荐专利
一种基于LoRA的大模型微调方法、装置、设备及介质
申请号:CN202510285286
申请日期:2025-03-11
公开号:CN120216852A
公开日期:2025-06-27
类型:发明专利
摘要
本申请公开了一种基于LoRA的大模型微调方法、装置、设备及介质,属于量子计算技术领域,方法包括:利用张量分解技术,分解目标数据,得到表征所述目标数据经第一低秩矩阵后的结果,作为第一数据,其中,所述目标数据为目标大模型的训练数据,所述第一低秩矩阵由分解所述目标数据所利用的核心张量表征;基于所述第一数据,通过用于提取高维特征的量子神经网络,获得第二数据;基于所述第二数据,利用张量分解技术,得到表征所述目标数据经第一低秩矩阵和第二低秩矩阵后的结果,作为第三数据,其中,所述第二低秩矩阵由当前分解所利用的核心张量表征;利用第三数据,分别更新表征第一低秩矩阵的核心张量和表征第二低秩矩阵的核心张量。应用本申请实施例,可以实现更高效的模型微调。
技术关键词
张量分解技术 量子神经网络 矩阵 数据 微调方法 核心 量子计算技术 特征提取模块 微调装置 计算机设备 可读存储介质 存储器 处理器 线性 元素
系统为您推荐了相关专利信息
1
一种基于自生成与推理评估构建偏好数据的语言模型推理能力优化方法
能力优化方法 序列特征 动态时间规整算法 自然语言 代表
2
一种测试导弹高速贯入海床土体阻力速率效应的模型试验装置与方法
模型箱 导弹 模型试验装置 激发装置 高速摄像机
3
光伏功率预测方法、装置和计算机程序产品
数值天气预报数据 光伏发电站 光伏功率预测方法 曲线 计算机程序产品
4
一种黑茶提取物智能生产控制系统
智能控制模块 环境数据采集单元 黑茶提取物 可视化模块 数据采集模块
5
语义数据的处理方法、装置、中间件、存储介质及产品
语义 中间件 后台服务进程 数据 发送方
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号