抖音 Wide&Deep 模型

**抖音在 2016 年上线，恰逢推荐算法开始进入深度学习时代，我们所应用的推荐算法也是深度学习算法的一种。**接下来我们以至今依然是抖音推荐算法主力模型之一的 Wide&Deep 模型为例进行介绍。 [4]

Wide＆Deep 模型的主要思路正如其名，是由单层的 Wide 部分和多层的 Deep 部分组成的混合模型。其中，Wide 部分的主要作用是让模型具有较强的“记忆能力”（memorization），“记忆能力”可以被理解为模型直接学习并利用历史数据中物品或者特征的“共现频率”的能力；Deep 部分的主要作用是让模型具有“泛化能力”（generalization），“泛化能力”可以被理解为模型传递特征的相关性，以及发掘稀疏甚至从未出现过的稀有特征与最终标签相关性的能力。

其具体模型结构如下图：Wide＆Deep 模型把单输入层的 Wide 部分与由 Embedding 层和多隐层组成的 Deep 部分连接起来，一起输入最终的输出层。Deep 部分进行深层的特征交叉，挖掘藏在特征背后的数据模式；而单层的 Wide 部分善于处理大量稀疏的特征，使得数据稀少的用户或者物品也能获得有数据支撑的推荐得分，从而提高泛化能力。

Wide＆Deep 模型的这一结构特征，可以解决前文提到的协同过滤算法的短板。协同过滤算法优点突出，但是其局限性也很明显，就是泛化能力差，推荐的结果头部效应比较明显。也就是容易造成信息单一问题。

Wide & Deep 模型结构

抖音双塔召回模型

**一条视频从海量信息中被选中，推送给用户，一般要经过进入内容池、召回、排序三个环节。**用户发布的新视频首先要经过初步评估进入内容池，然后进入召回环节，其作用是从海量的内容池中，初步快速粗筛出一大批用户可能感兴趣的内容。

举例来说，召回环节需要用到召回模型，抖音最常用的召回模型是“双塔召回模型”（Two-Tower Retrieval Model）。双塔召回模型把用户和内容都转化为数学空间里的一个个点，就像是给用户和内容贴上了独特的“数字标签”，这个过程叫做向量化表征学习。其大概过程如下：

（1）分别将用户特征、内容特征进行数学转化（如展示小猫的视频为 0，展示小狗的视频为 1，短视频为 0，长视频为 1，那么一个展示小猫的长视频即（0，1），其实际长度取决于特征有多少维度，用户特征同理）；

（2）将转化后的数学特征输入到用户塔、内容塔两个深度学习模型中，经过训练，各自形成一组新的数字集合，这叫做用户表征和内容表征。在这一步，原本各自代表一个现实特征的数字不再具备任何实际语义，两个模型会把用户特征和内容特征都转化为没有现实意义的数字代码——因此，算法不用理解现实语义，只需处理纯粹的数学符号；

（3）将两组形式为纯粹的数字集合的用户表征和内容表征，放入同一个向量空间中，每一组数字集合便在向量空间中拥有了一组专属的向量值，好比一组独有的“数字指纹”；

（4）将训练过的所有内容表征的向量值和当前用户表征的向量值的距离进行对比，距离越接近代表用户越喜欢。当你的“数字指纹”和某个视频的“数字指纹”在坐标系里刚好比较“匹配”（距离近），算法就会推荐它。

双塔召回模型

总结推荐算法：以数学计算学习人类行为

相比人工推荐，推荐算法实现了一个重要范式突破：它将用户对内容的具体偏好（如点击、评分等显式行为）抽象为高维空间中的数学映射关系。

通过将用户-内容交互矩阵分解为隐语义空间中的用户偏好矩阵和内容特征矩阵，算法无需理解“内容类型”或“开心愤怒情绪”等现实语义，而是通过潜在特征向量运算，就能实现对用户“是否会看完”“是否会点赞”“是否会收藏”某个内容的行为预测。

正是这种脱离现实语义的数学建模能力，结合亿级数据，实现“知其然，而不必知其所以然”的精准推荐。

[1] 图片参考《深度学习推荐系统》，作者王喆，电子工业出版社，2020 年 3 月出版。

[2] 内容援引自《深度学习推荐系统》，作者王喆，电子工业出版社，2020 年 3 月出版。

[3] 推荐系统进入深度学习时代的内容均援引自《深度学习推荐系统》，作者王喆，电子工业出版社，2020 年 3 月出版。

[4] Wide&Deep 模型的内容均援引自《深度学习推荐系统》，作者王喆，电子工业出版社，2020 年 3 月出版。

原文地址： 从零开始了解推荐系统 - 抖音安全与信任中心

1.持续关注并更新抖音 的相关资讯动态，研究报告，赚钱案例，常见问题，永久免费在线查看，无收费内容，目标是成为最大的免费抖音学习社群。微信入群渠道