基于大语言模型的车载流式语言对话交互系统及方法

本发明公开了基于大语言模型的车载流式语言对话交互系统及方法，所述系统包括部署在车载端的大语言模型，所述大语言模型用于对用户输入的信息进行本地处理和云端处理以得到处理结果，其中所述大语言模型与边缘计算和隐私保护模块连接，所述边缘计算和隐私保护模块用于对处理任务在本地设备中进行边缘计算，将数据处理推理流程分配到本地和云端服务进行处理，其中本地处理部分占比大于云端服务占比。充分利用LLMs的优势，又能满足车载环境的特殊需求，对于提升车载人机交互的智能化水平和用户体验具有重要意义。