MaaS平台大模型推理参数自动优化加速方法

本发明提供了MaaS平台大模型推理参数自动优化加速方法，包括通过检测硬件配置、构建标准化容器环境并准备压测数据；采用智能搜索算法遍历多维参数空间，通过压测和性能评分公式自动发现特定硬件和模型组合的最优推理参数；将各种硬件型号和模型版本对应的最优参数组合持久化存储到结构化数据库，形成可复用的参数知识库；在模型部署时自动识别当前硬件环境，从参数库中智能匹配并加载对应的最优参数配置，实现零配置优化部署。本发明通过参数组合可行性验证机制，能够及时发现并排除会导致系统错误或内存溢出的参数组合，确保最终选定的参数既能提升性能，又能保证系统的稳定运行。