参考文献
de PFM :自动化- machinebasedneuralnetworkforctrprediction
上次订阅源
调频
调频
我之前说调频，f比调频多得多！ 而且，今天的主角深度调频比调频多一个深度！ 谁更强就不用多说了，下面具体分解一下。
什么是eep？ 现在人工智能的异军突起了。 现在谁是最美的孩子？ 神经网络哦！ 谁比神经网络(别名NN )更美？ 是深度神经网络(别名DNN )啊。 这个Deep说的是那个深度神经网络啊。 那个深度调频当然是鄙视调频、调频，把它扔到后面，挺起胸膛走在时代的最前端。
那么，为什么有了深度，深度调频就能走在最前端呢？ 可以看出，与智力障碍的线性模型相比，调频和调频考虑了更多的特征交叉项。 那么为什么要考虑特征的交叉项呢？ 研究表明，吃饭的时候经常点击外卖的相关APP，这里吃饭的时候，也就是时间是一个特征，APP的类别，这里外卖系统也是一个特征，这两个特征很相关，需要考虑他们的交叉项。
据此，男青年大多喜欢射击游戏！ 在这里，男性是性别，青年是年龄，射击游戏是APP类别，三个特点同时出现！ 我该怎么办？ 你不是说调频和调频只考虑两个特征的交叉吗？ 那三个特征怎么也做不到交叉哦。 那时，有人问了。 调频不是有双向工厂的普及吗？ 那个可以做三个特征的交叉哦。 well，其实它的推广只是看起来很美，实际上运算复杂度极高，不实用，也不常用。 另外，如果实际上有4个特征的交叉、5个特征的交叉的话！ 其复杂性将无限膨胀！
现在怎么办？ 我觉得世界仿佛被黑暗笼罩着，在这个无边无际的黑暗中响起了一个声音，“交叉？ 我什么神经网络都做不了，还特意穿插分割，纵横交错，鳞次栉比，美吗？ 我全身交叉啊。 叉子太多了，我不知道怎么给你的！ 所以别人叫我网络哦！ ”
威尔，好的，那么，多个特征交叉的问题交给DNN，两个特征交叉的问题交给调频，不就解决了吗？ 于是DeepFM横空出世了！ 有人问了。 DNN那么强硬，为什么不交给他呢？ 做那么麻烦的事。 其实DNN自己也在说，叉子多得连他自己都不知道怎么给的！ 这么不可靠！ 两个特征的交叉是我们的基本盘！ 这个不能丢！ 所以还是交给调频比较好。
现在，让我们来具体看看这个融合了调频和DNN的模型是如何成长的。
看了这个，也许你就连DNN自己也明白了为什么那么多叉子是怎么给你的了。 来吧，一步一步来。
我先说调频的部分。 看这张图这么复杂，其实人一共表现了一件事。 那个是以下公式。 有关此表达式的含义，请详细查看我顶部显示的调频链接
w、x是表示线性拟合的部分，是参数向量和特征向量之间的点积，右边的山是表示两个特征交叉的部分，Vi、Vj是与特征xj1、xj2对应的隐藏向量，FM与两个特征对应上图中“稀疏特征”(Sparse Features )的小圆表示一个个特征，它们一起聚集在第三层(FM Layer )的编号小圆中，整个意思是w、x、一个线性拟合！ 关于一楼小圆圈下字段的含义，可以详细查看上面给你的FFM的链接。 其实，只是让属于同一类别的特征归于同一字段下。 字段中的特征采用单独热码，一个字段只出现一个特征，其余均为0。 这种数值特征通常是一个特征独占一个场。 所以，图中的每一个特征
然后，可以看到第一层各场的小圆延伸蓝色线与第二层相连。 (标记为Dense Embeddings。 实际上，第2层是上式的v，表示与特征对应的隐藏向量。 每个特征都有一个隐藏向量，蓝色线条表示特征与隐藏向量之间的映射。 第一层特征映射到第二层隐向量后，在第三层带符号的小圆上聚集两个，这与上式的右半部分一一对应。
最后的线性拟合部分和两个特征的交集聚集在最后的输出单元中，它与来自Deep部分的结果融合后经过一个sigmoid函数得到最终结果。 那为什么最后跟sigmoid说呢？ 通常使用DeepFM是CTR场景，所以应对2分类问题。
让我们来看看Deep的部分
啊！ 这个Deep部分的最下面两层为什么和FM部分的最下面两层很像？ 没错，其实它们是一样的！ 调频部分和Deep部分共享下面的二楼，怎么叫Deep调频？ Deep部分的上层很清楚发生了什么吧。 毕竟DNN是目前最美的孩子，还有这么多招牌。 最后，深度部分的结果和调频部分的结果聚集在输出单元中，结束。
只要查看我添加到顶部的调频链接，就会发现调频的参数是用SGD计算的。 认识DNN这个目前最美仔的人也知道DNN的参数是用SGD计算的。 那么，如何计算DeepFM的参数呢？ 一起在SGD上结束了！
DeepFM的介绍到此结束。 DeepFM是华为提出的，虽然在原论文中无意中提到，但至少在DeepFM诞生的瞬间，在CTR领域悬挂了当时的所有模式！ 但是我想说，你知道
DNN其实至少20前就现世了，为何这些年才靓起来？其实是因为经过多年的发展，有了大数据和强算力的支持。换句话说，要是数据没那么大，DeepFM就未必能恰好地展现出它本该有的吊打一切的王者风范了 ！到这里，可能有人被DeepFM恰如其分地将低阶特征交叉和高阶特征交叉融汇到一起的精妙思想感动得泪流满面，Well,但其实这样的思想在wide & deep中已经有了，只是可能还没DeepFM那般优秀，到底是怎么回事呢？请看wide & deep。
wide & deep