一种针对大模型性能横评的测试方法及装置

本发明涉及人工智能大模型领域，具体提供了一种针对大模型性能横评的测试方法及装置，具有如下步骤：S1、智能测试数据生成与管理；S2、基于Token时间戳的流式性能监控；S3、动态并发与流量模拟；S4、多模型统一接入与执行；S5、深度结果分析与可视化；S6、资源监控。与现有技术相比，本发明能够高效、自动化地生成详尽的性能对比数据，为大模型选型、性能优化及资源调度提供科学依据。