基于反馈增强型自适应前馈网络优化方法及定制大模型

本发明公开一种基于反馈增强型自适应前馈网络优化方法及定制大模型，所述方法包括：初始化模型的前馈网络的参数；输入前馈网络的特征矩阵，通过前向传播的方式，计算前馈网络每一层的输出；根据前馈网络的输出和真实标签来计算误差，该误差用于调整前馈网络参数和生成反馈信号；根据所述误差的大小和变化趋势，生成一个反馈信号用于调整学习率调整参数；根据该反馈信号的强度，动态调整权重和偏置的调整规则；根据当前迭代的效果调整反馈信号的强度。本发明能自动调整优化速度和方向，有效避免了梯度消失、局部最优解和训练震荡问题，提升了模型的收敛速度和稳定性，特别是在训练复杂、非线性数据时。