一种适用于大模型的边缘计算系统

本发明涉及边缘计算技术领域，公开了一种适用于大模型的边缘计算系统，本发明在不同区域的多个边缘设备上部署和运行大模型，并通过数据剪枝模块和数据量化模块对大模型的神经元进行剪枝、自适应量化和自适应补偿，最终有利于提升边缘设备的智能化处理能力。另外，本发明通过任务调度模块合理调度资源，进而提高每个边缘设备的资源利用率，避免因资源过度占用导致边缘设备性能下降或任务失败，进而为边缘计算在更多领域的广泛应用提供了有力支持。