一种基于评价反馈强化学习的错误抑制防护方法、系统及存储介质

本发明公开了一种基于评价反馈强化学习的错误抑制防护方法、系统及存储介质，涉及自然语言处理领域，接收初始输入序列和相关材料，基于特定于任务的生成提示生成初始输出；基于评价指标，使用显式模型比较初始输出和正确事实，得到量化的质量评价；使用语言大模型生成各评价指标对应的大模型易理解的评价反馈；使用语言大模型生成新的输出，并将新的输出作初始输出，进行迭代直到评价指标满足要求，生成改进输出。本发明旨在解决现有生成式人工智能模型面临的易生成虚假信息和引用不准确的问题，从多个评价维度生成自然语言反馈，不断迭代优化模型，提高生成式人工智能的可靠性和安全性，为生成式人工智能的高可靠性应用提供全新思路和技术支持。