一种协同大模型和推荐小模型计算的方法及系统

本发明公开了一种协同大模型和推荐小模型计算的方法及系统。本发明的方法通过设计端云协同的推荐模型框架，由基于云的大型模型利用历史数据生成候选列表和初始排名，在端侧设备上的小型模型使用最新的用户数据动态重新排列此列表。协同决策请求通过评估大型模型的初始排名和小型模型的后续重新排名之间的一致性来评估调用大型模型的需要。将大语言模型的特征提取能力与小型推荐模型的便利性结合起来，增强了大语言模型在设备上的实用性和准确性。