一种海量机器学习模型推理分布式运行优化系统

本发明公开了一种海量机器学习模型推理分布式运行优化系统，涉及计算机技术领域，其技术要点为：包括任务调度、模型部署与性能优化模块三大模块；任务调度模块依托改进的Funboost框架，依任务特征动态创设Booster实例，实现任务的高效接收、存储、分发与频率调控，支持多并发模式及自动资源调配。模型部署模块经函数精准定位模型，调用预参数处理函数，将参数存储于数据库并借Booster发布任务，以数据库动态管理模型参数，利用休眠机制合理管控运行间隔。性能优化模块从InfluxDB读取数据转为NumPy数组，批量处理后存回，显著提升计算效率。该系统于工业大数据领域，尤其是火电系统监控与预警中应用，可大幅降低资源占用，提升运行效率。