一种面向嵌入式设备的插件化大模型接入系统

本发明公开了一种面向嵌入式设备的插件化大模型接入系统，涉及大模型应用领域。该系统包括：会话层，用于提供标准调用接口以及定义不同的大模型调用方式，基于业务类型选择目标大模型调用方式将业务发送至平台层；平台层包括多个不同类型的大模型插件，平台层用于采用目标大模型插件对业务的协议和格式进行序列化，得到匹配目标大模型协议和格式的调用请求，并将调用请求发送至传输层；用于对调用请求结果进行反序列化解析，将反序列解析结果发送至会话层；传输层包括多种通信协议，用于根据网络环境和业务需求确定目标通信协议，将调用请求发送至目标大模型，将调用请求结果发送至平台层。本发明解决了多模型适配成本高、通信效率低的技术问题。