基于人工智能的端侧大模型评测方法、装置、设备及介质

本说明书实施例公开了一种人工智能的端侧大模型评测方法、装置、设备及介质，包括：云端设备运行云端评测框架，通过述云端评测框架生成评测数据，并通过述云端评测框架将评测数据传输至端侧设备，评测数据包括评测输入数据与评测任务；端侧设备通过端侧模型服务接收评测数据，调用本地运行的端侧大模型进行推理，得到模型输出结果，并通过端侧模型服务将模型输出结果传输至云端设备；云端设备对模型输出结果进行分析，得到端侧大模型的评测结果；云端AI评分系统结合历史评测结果对评测结果进行分析，生成评分分析结果，并基于评分分析结果生成适应于端侧大模型的改进策略。