【.com原创稿件】
1.导读
经过对介绍系统的协同过滤算法启动详细的引见后，并且给出模拟介绍案例，置信广阔读者关于协同过滤算法的原理也有了一个基本的了解，以及对其中的介绍环节和经常使用该介绍算法的场景和好处有了一个基本的掌握。在文章的开头局部我留了几个思索，也就是关于协同过滤算法劣势的钻研，用来引出其他的介绍算法。因此在这篇文章中，我会从这些方面登程，实践地去处置这几点疑虑，并且透彻地去论述协同过滤算法的劣势，而后给出相应的处置打算和对应的介绍算法。
2.“巧妇乃为无米之炊”——矩阵稀疏疑问
2.1 “米”不够?
首先关于协同过滤介绍算法，介绍计算环节中触及到一个关键性也是基础性的参数就是评分矩阵，这就引出了当天咱们须要处置的第一个疑问：评分矩阵的疏密水平。评分矩阵的疏密水平是决定对应介绍算法或许处置方法的关键。在实践的运行环节中，由于很多用户在生存中只会对少局部商品启动阅读、购置或许评价，关于大局部的商品都会熟视无睹、束之高阁，因此这样就会造成最终构成的评分矩阵过于稀疏。在设计介绍系统的时刻，就会面临一个应战：经常使用相对较少或许基本不够的有效评分数据来成功一个相对比拟准确的预测。这样的疑问无疑是“巧妇难为无米之炊”，至于选取任何一个介绍算法所带来的结果并不会有太大区别。就好比你要煮饭，你的米不够甚至没有米，即使你用铁锅还是铜锅甚至金锅也做不进去满足一家人吃的饭。这里的“米”也就是用户关于东西的评分，而“锅”，则就好比介绍系统，锅的材质也就好比介绍算法。这样，读者就能明白其中的含意了，并能够看法到评分的关键性。
面对这种评分矩阵过于稀疏的疑问，最间接的方法就是应用用户或许东西的额外属性数据，对这些数据启动分类和整合操作，来求解相对应的相似用户或许东西列表。这种方法假设这样形容，广阔读者或许并不是能够很好地理解其中含意，并不会对这种方法发生深入的印象。因此，我还是用煮饭的例子来解释下，用户—东西的评分矩阵过于稀疏时(在这先不思索评分矩阵为空的状况)，也就是煮饭的米不够，那么驳回的方法就是想方法把米启动合成，也就是把米弄碎，从而失掉更多的碎米，应用这些碎米去煮粥就可以满足一家人的需求了。这种比喻也就是上方说的应用用户和东西的额外特色属性数据来启动分类和整合。
2.2 没有“米”?
当然还存在一种状况就是没有米的时刻，也就是用户没有任何评分或许说是新来的用户，这里不知道读者有没有素昧平生的觉得。没错，这种状况也就是冷启动状况，在介绍系统详解里曾经有了相对应的处置方法，也就是成功一个非共性化介绍。大局部都是经常使用热销东西或许榜复数据来成功推送，或许在弹出窗口来征询用户的喜好和兴味，依据用户点击的模块来成功介绍。详细的操作方法详见我的文稿(介绍系统详解——共性化介绍与非共性化介绍)，在这里就不赘述了。
2.3 基于近邻算法的短板告发
回到之前说的应用用户和东西的额外特色属性对数据启动分类整合，这种操作相对应的一种算法叫做SVD矩阵因子合成。前面我会讲到;除此之外，还可以经过缺省投票的方式来补全东西的评分，原理就是给那些只要一个或许两个的用户评价的东西一个缺省值，这种方法相似于隐式评分计算;最后还有一个方法，当然也是无奈之举。那就是在没有评分的用户和东西旁边或许近邻找到有评分的用户和东西，以它的评分来填充的评分，或许用递增、求均值之类的方法失掉到评分来成功用户和东西评分。因此，如今可以得出CF——基于近邻介绍算法的所有劣势或许说是短板了，如下所示：
(1)笼罩有限：由于计算两个用户之间的相似度是基于这些用户关于相反一类东西的评分的，并且只要对这一类东西启动评分的用户才可以作为近邻，也叫平等用户。然而由于在实践场景中，很多用户很少对东西启动评分或许没有评分，然而他们确实又有相反的兴味喜好，这样就会造成介绍算法的笼罩范围遭到限度和影响。为处置这一疑问，引出了SVD矩阵因子合成介绍算法，它是依据已有用户对东西的评分状况，剖析出评分的用户对各个东西的因子喜好水平，以及各个东西关于这些因子的蕴含水平，最后再反过去依据最终的剖析结果预测评分。举个例子来说，在没有启动SVD矩阵因子合成前，只用户A和用户B以及用户C都青睐看电影，而且看电影的频次也相差不大。然而就看了几部电影，这样就造成或许就两三部电影具有用户们的评分值，这样的评分数量关于评分矩阵来说无疑是不够的，也就会形成评分矩阵的稀疏了。然而经过SVD矩阵因子合成后，发现每个电影可以提取到额外的特色属性因子(有励志、搞笑、人文、恋情等属性要素)，这样就可以提取到更多属性的评分值。经过这种属性也就会发现用户A或许跟用户B喜好相反，或许都青睐看搞笑或许恋情类的电影，而用户C或许更青睐看恐惧或许励志类的电影。这样就可以依据用户B的行为来预测A的行为了。使介绍给A的电影更合乎A的口味。因此，经过SVD矩阵因子的方式就可以找出更多影响评分的因子，并且将更多无心义的关联消息开掘进去，介绍出合乎用户需求和志愿的东西。
(2)对稀疏数据的敏感：其实这个疑问和上方笼罩有限的疑问有些相似。由于评分矩阵的稀疏性是大少数介绍系统的独特疑问。关键是看评分举证的稀疏水平，在上方讲的SVD矩阵因子合成算法经常使用中，假设合成后的东西属性因子还是不够浓密，构成的因子评分矩阵照旧稀疏，然而又不是新用户，还有有必定的历史购置行为或许阅读行为。相似这样的用户就不至于采取非共性化介绍了，由于毕竟要思索到介绍的兽性化、自动化，榜单热销东西数据不是万能的，有必定历史行为的用户还是要思索其中的历史行为要素，争取做到共性化介绍。目前为了处置这一类疑问，可采取基于内容的介绍算法。基于内容的介绍算法是间接依据用户的历史偏好来介绍与用户历史偏好关系的东西，这样就统筹了每个用户所特有的属性，成功共性化介绍。
针对上方两个疑问引进去了两个算法区分是SVD矩阵因子合成算法和基于内容的介绍算法，这两个算法就是这篇文章的重点。有了这个“引子”，上方就开局燃起这两个算法的“导前线”了。
3.SVD矩阵因子合成算法
3.1 SVD算法
首先来看下SVD(Singular ValueDecomposition)的数学定义：将给定的评分矩阵S合成成为三个矩阵的乘积，其中U和V称为左、右奇特向量，在本章中可了解为用户矩阵和东西因子矩阵，对角线上的值称为奇特值;S为n*m的矩阵，U为n*n矩阵，Q为n*m的矩阵，V为m*m的矩阵;在上方公式中，可以经常使用k个奇特值来近似地代替R矩阵，由于前1%的奇特值的和就占了所有奇特值和的99%以上，由于除了两边的奇特值之外，其他的奇特值基本都是0。公式如下：
而后须要将U、V矩阵启动转换失掉用户因子矩阵C和东西因子矩阵P，将奇特矩阵Q开平方区分乘到U和V矩阵，似乎将奇特矩阵Q做了一个开方而后乘积的变换。失掉用户因子矩阵C和东西因子矩阵P如下：
最后用户t对东西i的评分预测就为用户因子矩阵的第t行乘上东西因子矩阵的第i列(即东西因子矩阵的第i行的转置)，如下所示：
3.2 参数提升
在启动用户因子矩阵C和东西因子矩阵P的计算时，可以经过SGD随机梯度降低的方式启动学习来不时迭代调整降级关系参数。关于没有评分的状况则不须要计算误差值，间接令误差值为0即可。上方提到的SGD随机梯度降低的方法由于触及的内容较多，不容易了解，并且怕读者将SGD随机梯度降低和SVD矩阵因子合成相互混杂，在这就不再继续对SDG随机梯度降低启动原理上的论述了。我会将SGD随机梯度降低方法则作一个专题去剖析论述，由于它也触及到一些人工自动的神经网络的运用。宿愿广阔读者在这就先相熟顺应下公式即可：
3.3 SVD算法缺陷
SVD矩阵因子合成在实践介绍系统中很少经常使用，由于它很难启动在线计算，以致于不能很好地处置用户的实时行为反应，也就没有实时处置才干。而且关于大型的介绍系统而言，间接启动协同过滤或许SVD矩阵因子合成的话，或许会存在计算的复杂渡过高的疑问，这个时刻就可以思索K-means聚类算法做处置，将少量的评分数据启动分组，将每一组的一切数据归为一类或一个因子，而后再启动协同过滤处置，关于K-means算法原理和作用在这就不作赘述。之后这些漏掉的算法原理会以补充篇来专门讲述。
4.CB—基于内容的介绍算法
4.1 CB算法及其特点、运行
基于内容的介绍算法(Content-basedRecommendations)相比拟于协同过滤算法，也是一种工业界或许互联网业界运行比拟宽泛的介绍算法了。这是针关于协同过滤介绍算法中，仅仅基于用户对商品评分介绍造成的评分矩阵过于稀疏(以致于矩阵因子合成后照旧达不到理想的丰盛评分矩阵要求)所提出的介绍算法。这种介绍算法在某种水平上也处置了一局部冷启动疑问(只管不是启动新用户介绍)。基于内容的介绍算法可以依据东西的特性或许用户的历史行为或许不凡偏好等特色属性来启动比拟直观的介绍。这种算法仅仅只思索介绍的用户，而不去在意其他用户群以及最近邻。
CB算法特点：CB—基于内容的介绍算法只管也须要依赖东西和用户偏好的额外消息，然而它并不须要太多的用户评分和平等用户群的偏好属性记载，换句话说，也就是只要一个用户时，经常使用基于内容的介绍算法也可以成功介绍配置，并且发生一个东西的介绍列表。而这些是基于协同过滤算法的介绍所办不到的。
CB算法运行：基于内容的介绍算法后来设计进去时为了介绍用户感兴味或许无心思的文本文档，在一些文本文档介绍中经常可以看到基于内容的介绍算法的“身影”。然而在目前也会开局将该算法运行在其他介绍畛域了。基于内容成功介绍在未来也会失掉进一步的推行与运行。
4.2 CB算法 VS 协同过滤算法
上方咱们来看下CB(基于内容)和(协同过滤)两个算法的区别：
CB(基于内容的介绍算法)的介绍系统会依据用户过去青睐东西，试图介绍给用户过去青睐的东西的相似代替品，所介绍的东西是跟用户过去感兴味或许购置过的东西是属于同一类的，并且CB算法不须要依赖用户—东西评分矩阵;
CF(协同过滤的介绍算法)的介绍系统则会试图识别出与用户具有相反兴味喜好的其他用户，来将这些其他用户所青睐过的东西介绍给用户。CF算规律是须要基于用户—东西评分矩阵来成功介绍的。
4.3 CB算法成功步骤与结构
CB算法成功步骤如下：
(1)ItemRepresentation(对象示意)：就是为每一个item(对象)抽取出一些特色属性进去，也就是结构化东西的操作，相对应的处置环节也叫内容剖析;
(2)ProfileLearning(特色学习)：应用用户的历史行为消息或许过去青睐(不青睐)的item的特色数据消息，来学习用户的喜好特色(Profile)，相对应的处置环节叫做ProfileLearning;
(3)RecommendationGeneration(介绍迭代)：经过火析上一步失掉的用户Profile(特色)，为应用户介绍一组关系性或许相似度最大的item即可，相对应的处置环节叫做FilteringComponent(过滤组件)。
由BC介绍算法的履行步骤不难得出BC介绍算法运转的结构，将BC介绍原理环节绘制成直观的结构图如下所示：
4.4 CB—Item Representation
在绘制完BC介绍算法的结构图后，在这额外补充一点：在对东西特色属性的开掘抽取中，也就是ItemRepresentation环节中，关键包括对数值型数据的处置和非数值型数据的处置，这在机器学习中驳回的关键处置方式有以下几种：
(1)数值型数据归一化：就是将数值型数据一致除以自己数据总和，用每一个数据在数据总和中的占比来示意该数据，使得每个数据的示意范围都在[0,1]之间,这也是最为便捷的数值型数据归一化方法;
(2)数值型数据二值化：依据各个数据值来设置一个自动值，设定一个条件规定如数
据值大于等于自动值，则示意为1，小于自动值示意为-1。像这样的设定限定条件来使每一个数据值都只要两种值中的一种，也就是所谓的二值化;
(3)非数值型数据转换成特色向量:将每一个非数值型数据用对应的向量型数值示意;
(4)TF-IDF：一种用于消息检索与数据开掘的罕用加权技术。TF是词频,IDF是逆文本频率指数，通罕用来评价一个字词关于一个文件集中的一份文件的关键水平。
(5)Word2Vec：一群用来发生词向量的关系模型，会触及到神经网络的训练。
4.5 CB—Pofile Learning
假定用户关于某些东西曾经有了喜好判别，青睐其中一局部的东西，不青睐另外一局部，那么这个环节其实就是经过用户过去的喜好来启动判别，从而构建一个判别模型，最后再依据这个模型来判别用户关于一个新的东西能否青睐。这是一个比拟典型的有监视学习疑问，无通常上也是可以经常使用机器学习的分类算法来求解所须要的的判别模型，这也为今后算法的提升提供了钻研方向，也就是联合深度学习技术来不时完善判别模型，使得判别模型愈加地贴合用户兴味。
在这一环节中触及到的罕用算法有最近邻方法、决策树方法、线性分类算法、豪华贝叶斯算法等，这些算法都是在人工自动畛域或许说是深度学习畛域罕用的处置数据的算法，由于本文只讲介绍算法，触及到的这些深度学习畛域的算法我会在今后引见深度学习的专题里启动论述。至于最近邻方法由于是介绍系统最关键、也最罕用的算法，我会以补充稿的方式来详细论述并更好地启动该介绍算法系列的差缺补漏。经过这些触及到机器学习的常识不难发现，基于内容介绍其实关键就依赖机器学习算法的基础过去做的一个介绍。
4.6 CB算法大剖析
经过上述文字，不难知道基于内容的介绍算法(CB)的优缺陷，上方咱们就开展了解下，
关于CB介绍算法的好处关键有以下几个：
(1)用户独立性：这共性质也脱离了协同过滤算法依赖其他近邻的特色属性的限度，真正意义上做到仅有一个用户也能成功共性化介绍。在构建模型的环节中，CB算法只要要思索介绍用户的消息就可以了，十分独立的一种介绍算法;
(2)透明度：经过CB算法的运转结构就可以知道，CB算法经过显式地列出使得东西出如今介绍列表中的内容特色和形容消息，也就可以很好的、较为明白或许透明地解释介绍系统是如何上班的了;
(3)新东西性：这个是针关于东西评分没有的状况下的特性。也就是说，即使用户对这个东西并没有评分，甚至这个东西没有任何评分，然而BC算法可以基于用户历史行为找到与该东西想相似且有用户评分的东西，那么CB介绍算法就可以将这个没有任何评分的东西介绍给用户，也就是成功了新东西(没有任何评分的东西)的介绍。
当然，任何介绍算法都是只能用来处置某一类疑问或许处置某一类状况的，因此，CB算法也有它自身难以克制的缺陷：
(1)抽取特色难度大(可剖析的内容有限)：关于用户(东西)，假设他的阅读历史(特色属性)不够丰盛，那么就会造成提取的特色不具有很好的示意才干，关于最终的介绍成果发生负面的影响。这个疑问是与介绍对象关系的特色数量和类型有限关系的，并且依赖于畛域常识，也就是机器学习算法的好坏;
(2)容易形生长尾效应：长尾效应在之前的文章中曾经做过解释，CB算法介绍很或许会造生长尾效应的发生，以致于无法发现用户的潜在兴味，形成用户的兴味适度专注特化。由于CB介绍算法中的介绍结果不时都是和用户以前青睐的东西相似的，经过CB算法介绍，用户一直逗留在以前那一块兴味畛域中，无法超过进去，青睐上其他畛域的东西。然而实在状况是用户必需不止这一块畛域的兴味喜好，因此CB介绍算法就无法发现应用户或许还青睐其他畛域内容，也就会形成用户兴味适度专注特化，长尾效应也就发生了;
(3)冷启动疑问：也就是无法为新注册的用户发生介绍，由于CB算法依赖的是用户的历史行为数据，关于一个齐全没有历史行为数据的新注册用户也就无法能为他发生一个比拟牢靠的介绍结果了。这个疑问也是之前协同过滤算法存在的疑问，好在已将在之前的文
章中用非共性化介绍处置了这个疑问，就不再继续形容了。
5.总结
SVD算法和CB算法都是作为处置协同过滤算法的用户—评分矩阵过于稀疏所钻研进去的介绍算法，只管针关于不同的稀疏度有相关于的处置方法。然而作为SVD和CB算法身手，这两个介绍算法仍有其自身难以克制的缺陷存在。在文章中，我会把剩下的、相对比拟小众的介绍算法引见给大家，这样就可以让读者依据自身开发遇到的场景决定适合的算法了，也可以让读者较为明晰的了解到介绍算法的轻重级别，关于一些小众的介绍算法的掌握是可以为自身设计的介绍系统起到精益求精的成果。