摘要
本发明涉及生成式推荐技术领域,尤其是涉及一种基于多分词器增强的生成式推荐预训练方法,包括:S1、输入训练数据;S2、根据采样概率选择一个物品分词器;S3、对交互序列和目标物品进行分词;S4、计算生成目标的负对数似然损失并进行模型优化;S5、周期性过滤分词器并更新采样概率;S6、循环上述S1至S5过程,直到模型收敛。本发明通过多物品分词器的数据增强和基于梯度影响分数的数据课程技术针对性的解决上述限制,通过模型预训练进一步激发了生成式推荐模型的潜力,充分提升了生成式推荐模型的泛化性和推荐性能。
技术关键词
预训练方法
分词
数据
梯度下降算法
模型预训练
周期性
序列推荐
推荐技术
推荐系统
展开式
检查点
动态
参数
指标
定义