摘要
本发明公开了一种利用自动生成的协同离散编码提升点击率预测性能的方法,包括:离散编码特征生成:基于模型自身的原始特征嵌入,通过多个语义划分的向量量化器将特征离散化,同时设计区分性优化目标,使同一用户的不同编码具备良好的区分性,不同用户的同列编码具备良好的聚合性,并与预测任务损失联合优化;基于离散编码的特征增强:在获得离散编码后,提出通用特征建模层与门控专家交叉模块,对原始特征与离散编码进行融合建模,引入基于 KL 散度的双向蒸馏机制,对齐编码空间与特征空间,最后通过自监督方式对齐不同交叉模块任务。本发明通过模块化结构实现高质量离散编码与原始特征的协同增强建模,显著提升点击率预测模型的性能与泛化能力。
技术关键词
交叉模块
编码特征
通用特征
深度神经网络模块
二阶特征
点击率预测模型
多层感知机
多层次
语义层面
模块化结构
离散特征
蒸馏
因子
关系
机制
系统为您推荐了相关专利信息
编码向量
行政事业单位
编码特征
信息处理方法
语义特征
脑电模式识别
场景分类
通用特征
特征模板
生成用户画像