diff --git a/models/rank/deepfm/readme.md b/models/rank/deepfm/readme.md index bd2717dc9b4df40bd6384374c68e145b50c7794d..29ba777fad749b204bc195a808e56c240499f55d 100644 --- a/models/rank/deepfm/readme.md +++ b/models/rank/deepfm/readme.md @@ -123,6 +123,10 @@ V 的第 i 列便是第 i 维特征的隐向量。特征分量Xi与Xj的交叉 +### dnn部分 +相比fm模型,我们去除了fm模型中的偏移量,而加入了dnn部分作为特征间的高阶组合,通过并行的方式组合fm和dnn两种方法,两者共用底层的embedding数据。dnn部分的主要组成为三个全连接层,每层FC的输出维度都为400,每层FC都后接一个relu激活函数,每层FC的初始化方式为符合正态分布的随机初始化. +最后接了一层输出维度为1的fc层,方便与fm部分综合计算预测值。 + ### Loss及Auc计算 - 预测的结果将FM的一阶项部分,二阶项部分以及dnn部分相加,再通过激活函数sigmoid给出,为了得到每条样本分属于正负样本的概率,我们将预测结果和`1-predict`合并起来得到predict_2d,以便接下来计算auc。 - 每条样本的损失为负对数损失值,label的数据类型将转化为float输入。