基于MoE-Transformer的工业数据分析系统及方法

本申请提出一种工业数据分析系统及方法，输入层对多模态原始工业数据进行预处理，MoE‑Transformer核心层对预处理后的数据进行特征提取，得到多模态特征向量，基于分层熵门控机制，分配专家来处理各模态特征向量，其中Top‑K策略中的K值通过专家负载权重来确定，专家负载权重反映预定时段内专家资源消耗水平，然后，根据硬件状态将专家匹配到相应节点进行处理，得到结果特征，智能输出层基于结果特征和全局专家参数，融合获得分析结果。这样，动态地依据专家资源消耗水平来确定专家、依据硬件状态来确定专家分配的节点，能有效均衡地利用专家、硬件资源，提升了模型效能，促进了模型在工业数据分析中的应用。