昇腾人工智能一体机及其AI大模型训练方法

本申请涉及昇腾人工智能一体机及其AI大模型训练方法，涉及人工智能的技术领域，其包括多个基于昇腾芯片的高性能计算单元，每个计算单元配置HBM2E内存，采用3D堆叠技术实现多层存储结构并集成ECC纠错功能，用于存储和处理大规模AI模型训练数据集；高速互联网络模块，基于InfiniBand协议构建计算单元间通信链路。本申请具有通过采用基于昇腾芯片的高性能计算单元及大内存技术，有效解决了传统GPU集群在处理大规模AI模型训练时的内存瓶颈问题，显著提升了模型训练速度和效率；能效优化系统的应用，包括动态电压频率调整和双循环液冷散热技术，大幅降低了能耗，减少了数据中心的运营成本和环境压力的效果。