语音表征模型预训练方法、装置、电子设备及存储介质

本公开关于语音表征模型预训练方法、装置、电子设备及存储介质，该方法包括：随机初始化映射矩阵和码本集合，基于映射矩阵对样本语音的音频帧序列中各音频帧分别进行向量映射处理得到各音频帧的映射向量；从码本集合中搜索与各映射向量相匹配的目标码本向量并将其目标索引作为相应音频帧的参考离散化标签；将经遮蔽的音频帧序列输入待训练语音表征模型进行语音表征处理得到语音表征结果；对语音表征结果中对应各被遮蔽位置的表征结果分别进行离散化标签预测；基于各被遮蔽位置对应的预测离散化标签与相应参考离散化标签之间的差异，调整待训练语音表征模型的模型参数以得到预训练的语音表征模型。本公开提高了语音表征模型的预训练速度和稳定性。