支持边缘计算设备的大模型高质推理方法及系统

本申请涉及大模型数据处理技术领域，具体涉及支持边缘计算设备的大模型高质推理方法及系统，该方法包括：获取语音采集向量；根据以语音采集向量中的各元素为中心的不同长度的时间窗口内所有元素的频域信息稳定情况和自相似特征的对比情况，得到各元素对应时刻在每个频率处的时频特征值；根据所有元素对应时刻在各频率处的时频特征值和能量幅值的分布离散情况，得到各频率处的情绪显著度；根据各频率处的情绪显著度对语音采集向量的语音频谱中各频率的能量幅值进行过滤后逆变换，得到过滤后的语音采集向量；采用边缘计算设备对过滤后的语音采集向量进行大模型推理。本申请可提高大模型推理计算的准确度。