admin管理员组

文章数量:1589779

时间:2019.08

作者:Weiping Song, Chence Shi, Zhiping Xiao, Zhijian Duan, Yewen Xu, Ming Zhang, Jian Tang

 

Abstract

使用Multi-head self attention来进行自动特征交叉学习

 

Model Architecture

Embedding Layer

categorical feature和numerical feature都用embedding表示

 

Multi-head Self-Attention

使用multi-head self-attention把特征映射到不同子空间中,每个子空间可以学习到不同的特征组合

  1. 输入特征通过矩阵乘法线性变换为在注意力空间下的向量表示,对于每个特征

本文标签: featureInteractionAutoIntAutomaticneural