摘要
本公开提供一种大语言模型分析方法、装置及相关设备,涉及大语言模型的技术领域,其中方法包括:步骤S1:获取大语言模型信息,所述大语言模型信息包括目标模型的模型文件以及框架数据,所述框架数据指示所述目标模型对应的目标应用框架;步骤S2:根据所述框架数据确定所述目标应用框架对应的目标镜像文件;步骤S3:根据所述目标镜像文件启动容器,并在所述容器中运行预先设置的模型分析服务;步骤S4:在将所述模型文件加载至所述容器中,且所述模型分析服务成功分析所述目标模型的情况下,得到所述模型分析服务输出的模型分析信息,所述模型分析信息包括所述目标模型的模型输入数据、模型输出数据。本公开能提升用户对外部模型的分析效率。
技术关键词
大语言模型
框架
数据
容器
算法
分析方法
处理器
可读存储介质
计算机程序产品
标识
分析装置
日志
分析模块
存储器
电子设备
指令
格式