伪流式的即时通信应用与大语言模型的交互方法及系统

本发明公开了一种伪流式的即时通信应用与大语言模型的交互方法及系统，交互方法包括：获取待转换字符流，将待转换字符流切分为多段文本单元，待转换字符流为大语言模型输出的基于轻量级标记语言的流式回复；通过预设的语法分析状态机对各文本单元进行解析和转换，得到多个语法块；对各语法块进行判断，得到各语法块对应的可输出内容；确定词元阈值，根据词元阈值对各可输出内容进行渲染，得到渲染消息；将渲染消息加入目标用户任务队列，通过速率控制器，将目标用户任务队列中的渲染消息延时发送至即时通信应用对应的目标用户端。本发明既能满足响应速度的要求，又能保证回复格式与分段前高度一致，可广泛应用于人工智能技术领域。