基于自编码器端到端联合星座整形和脉冲整形的编码方法

本发明公开了一种基于自编码器端到端联合星座整形和脉冲整形的编码方法，包括：基于可训练参数归一化广义互信息的最大表达式，得出最优概率整形因子；利用该因子初始化概率整形神经网络，根据采样器实现梯度可导的连续化处理，得到连续可微向量；将连续可微向量经过直通估计器后送入几何整形编码端进行联合优化，引入可学习脉冲整形滤波器进行时域波形优化并完成调制，得到调制后信号；将调制后信号通过信道进行传输后，得到接收信号y；将接收y信号送入到神经网络解码器模块，重构得到输出信号；本发明实现了星座概率分布、几何结构和时域波形的三重联合优化，完成系统的自适应更新，获得更大的整形增益，改善系统的非线性效应和大容量问题。