基于小型语言模型的多任务执行方法、装置、设备及介质

AITNT
正文
推荐专利
基于小型语言模型的多任务执行方法、装置、设备及介质
申请号:CN202411707104
申请日期:2024-11-25
公开号:CN119647459A
公开日期:2025-03-18
类型:发明专利
摘要
本申请涉及人工智能技术,提供了基于小型语言模型的多任务执行方法、装置、设备及介质,其根据不同的任务类型从中央处理器的主内存中获取不同的Lora权重,并加载到图形处理器的显存中,进一步分别在小型语言模型的初始权重及Lora权重下执行权重计算,并合并计算结果以生成最终的任务执行结果,能够基于Lora微调及小规模模型实现金融场景下的多任务部署,既保证了任务性能,又降低了部署成本。
技术关键词
多任务执行方法 矩阵 中央处理器 图形处理器 多任务执行装置 内存 可读存储介质 标识 人工智能技术 金融 加载单元 合并单元 计算机设备 场景 小规模 存储器 标记
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号