一种基于本地大模型信息处理方法及装置

本申请公开了一种基于本地大模型信息处理方法及装置，属于网络技术领域。该方法通过构建和部署任务执行引擎，本地部署的大模型能够充分利用显卡的计算能力，实现高效的信息处理。同时，模型量化处理显著降低了显存需求，提升了推理速度。任务执行引擎简化了一部分常用的系统交互相关任务，使用户能够更加便捷地完成各种任务，提高了系统的实时响应能力；基于本地大模型，用户即使在无网络环境下也能进行智能对话和任务执行，保障数据隐私和安全，实现了数据隐私保护；用户无需切换界面即可发起任务请求，提升操作效率和便利性；任务执行引擎可实现与系统深度融合的任务执行，简化用户与系统的交互；通过对复杂任务的拆解，提供更实用的执行步骤和方法。