一种大语言模型动态分级提示压缩方法、系统、装置和存储介质

本发明公开了一种大语言模型动态分级提示压缩方法、系统、装置和存储介质，属于深度学习、强化学习和大语言模型等技术领域。其中方法包括：构建提示压缩的马尔可夫决策过程；训练语言模型对齐目标大模型输出分布；综合设计压缩比、输出对齐和信息保留的奖励函数；根据近端策略优化的强化学习算法和课程学习训练压缩智能体；使用压缩智能体对输入提示进行动态压缩。本发明通过基于强化学习的动态分级提示压缩方法，旨在解决当前提示压缩技术中压缩比与关键信息保留之间难以平衡、方法泛化性不足、缺乏自适应调整机制等问题。