一种大语言模型分析方法、装置及相关设备

AITNT
正文
推荐专利
一种大语言模型分析方法、装置及相关设备
申请号:CN202410954116
申请日期:2024-07-16
公开号:CN118916042A
公开日期:2024-11-08
类型:发明专利
摘要
本公开提供一种大语言模型分析方法、装置及相关设备,涉及大语言模型的技术领域,其中方法包括:步骤S1:获取大语言模型信息,所述大语言模型信息包括目标模型的模型文件以及框架数据,所述框架数据指示所述目标模型对应的目标应用框架;步骤S2:根据所述框架数据确定所述目标应用框架对应的目标镜像文件;步骤S3:根据所述目标镜像文件启动容器,并在所述容器中运行预先设置的模型分析服务;步骤S4:在将所述模型文件加载至所述容器中,且所述模型分析服务成功分析所述目标模型的情况下,得到所述模型分析服务输出的模型分析信息,所述模型分析信息包括所述目标模型的模型输入数据、模型输出数据。本公开能提升用户对外部模型的分析效率。
技术关键词
大语言模型 框架 数据 容器 算法 分析方法 处理器 可读存储介质 计算机程序产品 标识 分析装置 日志 分析模块 存储器 电子设备 指令 格式
添加客服微信openai178,进AITNT官方交流群
驱动智慧未来:提供一站式AI转型解决方案
沪ICP备2023015588号