基于病症语义的大模型动态量化方法、设备及介质

本发明公开了一种基于病症语义的大模型动态量化方法、设备及介质，涉及人工智能领域。方法包括：通过预训练的命名实体识别模型，从医疗数据中提取病症实体；基于所述医疗数据计算所述病症实体的实体密度和语义关系复杂度；将所述实体密度和所述语义关系复杂度输入至预设的多层感知机，得到注意力分数；根据所述注意力分数将所述实体密度和所述语义关系复杂度进行融合，得到融合特征；通过预设的概率分布映射函数，将所述融合特征映射为不同量化精度的概率分布数据；基于所述概率分布数据确定目标量化精度；根据所述目标量化精度调整待量化的目标模型的量化参数。本发明可以在对大模型进行量化时，保证模型的准确性和可靠性。