Recommended System

相似度的衡量

欧式距离，是个人都知道，不提了。
Pearson Correlation相似度： $Corr(x,y) = \frac{<x-x',y-y'>}{|x-x'||y-y'|}$ <x,y>指的就是內积操作、皮尔逊相似度的好处就在于对于级数不敏感，级数相差过大带来的影响不大。
余弦相似度： $cos(x,y) = \frac{<x,y>}{|x||y|}$ 这个就不用多说了，一般就是用在了文本编码之后的向量相似度比较，因为这时候很多向量都不在欧式空间上了，一般就用他们夹角的大小来

基于隐语义的推荐

基于隐语义的推荐，其实就是矩阵分解。之前写过一篇叫Matrix Factorization的文章讲的就是这个：https://www.jianshu.com/p/af49053832c5
首先对用户进行一些简单的编码，因为用户如果是把名字记上去是做不了计算的，所以我们把用户进行编码，比如有4个用户，一号用户就 $[1,0,0,0]$ ，二号 $[0,1,0,0]$ 等等以此类推。

如果是使用神经网络来解决这个问题，首先就是要设计一个网络，

N-d-M

，N输入用户的数量，d就是网络的维度，M就是输出的结果，M就是物品的数量，因为最后的输出就是用户对商品的评分。

但实际上还是有一个问题，就是对于激活函数，也就是非线性函数是否需要的问题。事实上是不需要的，因为如果只有一个

x

是有效的，那么这个

x

就是只有一行有效的，所以只会有一个x经过了tanh函数，从效果上讲一个tanh(x)和x是没有什么区别的。所以可以忽略非线性：

整合一下公式

h(x) = W^TVx

由于x就是一行有效，所以

h(x) = W^Tv_n

所以，第m个用户的第n个商品的评分就是

r_{nm} = w_{m}^Tv_n

这样就分解得到了我们要的公式，最后求导即可。事实上分解出来的两个矩阵里面的变量代表的数据的意义其实是不明确的，也就是说比较抽象，怎么想象都行。分解出来的矩阵

R_{nxk},Q_{kxm}

，k代表的就是分解的度，分解的越多有可能会过拟合，所以这里也是可以加正则化的。

不要尝试的去理解所有分解的赢语义，这是没有意义的，比如神经网络的每一个神经元，事实上你们是不知道他们到底是在干什么，只是知道他们在观察而又，这里也是一样的，这里面分解出来的东西，如果是电影，你可以说是喜剧成分，武大成分，也可以说是演员等等，相当于一指示变量而已，只是指明了这个物品是多少分，但是没有给出具体的意义。
具体的公式之前的博客都有，例子也提到，这里就不重复了。

上面提到的只是最简单的MF模型，但是这类模型有一个缺点，他们分解出来的东西会有负数，这就尴尬了，因为很少有变量因素会其负作用的，于是便出现了非负矩阵分解。

非负矩阵分解出现的根本原因就矩阵分解解释性差的问题。

NMF

矩阵非负分解，这个就有点厉害了。首先引入一下KL离散度： $D(A|B) = \sum_{i,j}(A_{i,j}log \frac{A}{B}-A_{i,j}+B_{i,j})$

KL损失函数

对于KL散度的推导其实很简单：
$f(x) - f(x_0) = \nabla f(x_0)(x-x_0) \\ f(y) = f(x) - \nabla f(x) (x-y)$ 所以一阶Tayor逼近的误差是： $f(x) - f(y) - \nabla f(x) (x-y)$ 代入熵 $f(x) = \sum_{i=1}^k x_iInx_i$ ： $D(x||y) = xInx - yIny - (Iny + 1)(x-y) \\ D(x||y) = xlog \frac{x}{y} - x + y$ 这样推导出来了。平方差损失函数对应着高斯分布，那么KL肯定也对应着另一个分布——泊松分布： $P(X = x) = \frac{\lambda ^x}{x!}e^{-\lambda} \\ P_1(X = x) = \frac{\lambda_1 ^x}{x!}e^{-\lambda_1} \\ P_2(X = x) = \frac{\lambda_2 ^x}{x!}e^{-\lambda_2} \\ In \frac{P_1(X=x)}{P_2(X = x)} = xIn \frac{\lambda_1}{\lambda_2} - \lambda_1 + \lambda_2$ 因为 $x$ 是随机数，所以求一下期望： $\sum_{x = 0}^{+\infty}P_1(X=x)In(\frac{P_1(X=x)}{P_2(X=x)}) = \sum_{i=1}^{+ \infty}P_1{X=x}[xIn \frac{\lambda_1}{\lambda_2}-\lambda_1+\lambda_2] \\ = \lambda_1 In \frac{\lambda_1}{\lambda_2}-\lambda_1 + \lambda_2$ 所以KL离散度就对应了泊松分布。

对于这个KL离散度： $D(A|B) = \sum_{i,j}(A_{i,j}log \frac{A}{B}-A_{i,j}+B_{i,j})$ KL离散度一定是大于等于0的，当 $A == B$ 的时候，这个离散度就是等于0的了，所以我们要求的就是不断的 $minimizeD(A||B)$ 即可。
所以现在NMF的损失函数有两种了①均方差损失函数: $loss = \frac{1}{2}(y - y')^2$ ；②KL离散度： $loss = \sum_{i,j}(A_{i,j}log \frac{A}{B}-A_{i,j}+B_{i,j})$ ，还是用第一种吧！
问题来了，既然是非负数的，怎么保证是正数是一个问题，这里有一个很牛逼的技巧：
$loss = [R - (PQ)]^2 \\ \frac{\delta loss}{\delta Q} = 2[R - (PQ)]P \\ = -2[(P^TR)-(P^TPQ)]$
所以更新方式： $Q = Q + n*[(P^TR) - (P^TPQ)]$ 要做的就是设计一个n，使得乘上之后可以抵消前面的Q即可。 $n = \frac{Q}{P^TPQ}$ ，带进去之后： $Q = Q \frac{(P^TR)}{(P^TPQ)} \\ P = P \frac{(RQ^T)}{PQQ^T}$ 使用KL离散也是一样的。

代码实现

def train(V, r, maxCycles, e):
    m, n = np.shape(V)
    W = np.mat(np.random.random((m, r)))
    H = np.mat(np.mat(np.random.random((r, n))))

    for step in range(maxCycles):
        V_pre = W * H
        E = V - V_pre
        err = 0.0
        for i in range(m):
            for j in range(n):
                err += E[i, j] * E[i, j]
        if err < e:
            break
        if step % 1000 == 0:
            print("\Interator: ", step, " Loss: ", err)
        a = W.T * V
        b = W.T * W * H
        for i in range(r):
            for j in range(n):
                if b[i, j] != 0:
                    H[i, j] = H[i, j] * a[i, j] / b[i, j]
        c = V * H.T
        d = W * H * H.T
        for i in range(m):
            for j in range(r):
                if d[i, j] != 0:
                    W[i, j] = W[i, j] * c[i, j] / d[i, j]
    return W, H

效果：

效果还是可以的。

CF VS隐语义

隐语义其实还有一种分解方式，就是SVD，SVD也可以的，但是SVD的分解是 $O(m^3)$ ，而且如果原矩阵是有很多缺省值的话，那么SVD就会用0填充，这样不太好的。相比之下CF跟简单，而且可解释性也强，但是隐语义模型可以挖掘出更深层的物体或者是用户之间的关系，覆盖性会更好，双方各有优缺点。

基于图的推荐

PageRank Algorithm

首先要提到的就是PageRank算法，等下还要改进一下这个算法才会得到真正的推荐系统算法。这个算法是在Google初期使用的一个网页排序算法，用于对网页重要性的排序。一开始的网页排序都是按照人工筛选或者是关键词筛选的，但是这样效率不高而且效果不好，经常是有很多网页有很多重复关键词的然后被置顶，这个时候就需要一个新的方法来重新评估网页的质量，重新排序了。
把互联网上的网页模拟成一个节点，出链就是指向其他网页的一条有向边，也就是当前这个网页有一条指向其他网页的边，入链就是一个指向当前页面的边，也就是说有一个网页是指向了当前这个网页的。这个时候当前网页就是其他网页转进来的了。所以网页评估是带有以下的两个假设的：数量假设：一个网页的入度，也就是入链越大，质量越高。质量假设：一个节点的入度来源质量越高，那么当前节点质量就越高。但是，问题来了，网页A和网页B的质量有关系，网页B又和网页C有关系，以此类推要是网页C又和A有关系那就陷入了循环里面了。这样就解不出来了，所以简化一下模型，假设，所有的网页都和前一个网页有关系，这样就叫随机游走模型，也就是一阶马尔科夫模型。随机游走可以看做是马尔科夫链的一种特例。也叫做醉汉模型，没一次走的方向或者步数只于前一次走的有关系而已，这一点有点像布朗运动。
现在将这个模型数学化一下下，假设现在有N个网页，一开始初始化肯定每一个网页的概率都是一样大的，都是 $\frac{1}{N}$ ，比如下图：

每一个网页的概率就是

[\frac{1}{4},\frac{1}{4},\frac{1}{4},\frac{1}{4}]

，每一个网页转向其他网页的概率都是一样的：

\left\{ \begin{matrix} 0 & \frac{1}{2} & 1 & 0 \\ \frac{1}{3} & 0 & 0 & \frac{1}{2}\\ \frac{1}{3} & 0 & 0 & \frac{1}{2}\\ \frac{1}{3} & \frac{1}{2} & 0 & 0 \end{matrix} \right\}

记这个矩阵为

T

矩阵，

T[i][j]

代表的就网页j跳转到网页i的概率，

\sum_{j=1}^n T[i][j] = 1

。根据这个矩阵，我们是可以计算出用户访问每一个网页的概率：

V_1 = T*V_{0} = \left\{ \begin{matrix} 0 & \frac{1}{2} & 1 & 0 \\ \frac{1}{3} & 0 & 0 & \frac{1}{2}\\ \frac{1}{3} & 0 & 0 & \frac{1}{2}\\ \frac{1}{3} & \frac{1}{2} & 0 & 0 \end{matrix} \right\} * \left\{ \begin{matrix} \frac{1}{4} \\ \frac{1}{4} \\ \frac{1}{4} \\ \frac{1}{4} \end{matrix} \right\} = \left\{ \begin{matrix} \frac{9}{24} \\ \frac{5}{24} \\ \frac{5}{24} \\ \frac{5}{24} \end{matrix} \right\} \\ V_n = T*V_{n-1} = T^n * V_0

当迭代多次之后，

V_n

这个矩阵会最终稳定下来，这个矩阵叫马尔科夫矩阵。

矩阵T的条件

对于转移矩阵T是存在条件的：
①T要是随机矩阵：所有元素大于0，而且要求列相加要是等于1的。
②T是不可约的：所谓的不可约就是强连通性，即图中任何一个节点可以到达其他任何一个节点。比如有某一个节点是不能到达任何一个节点的，在那个节点所在的列都是0，或者是只有回到自己，也就是自环路。这两种就是在后面提到的终止点和陷阱了。
③T要是非周期的：也就是符合马尔科夫链的周期性变化。

周期性迭代之后最终结果会固定住，比如上面的结果就是 $[\frac{3}{9},\frac{2}{9},\frac{2}{9},\frac{2}{9}]^T$ ，也就是说第一个页面访问的频率是很高的。

终止点

终止点就是指没有任何出链的网页，比如：

节点C就是一个终止点。

\left\{ \begin{matrix} 0 & \frac{1}{2} & 0 & 0 \\ \frac{1}{3} & 0 & 0 & \frac{1}{2}\\ \frac{1}{3} & 0 & 0 & \frac{1}{2}\\ \frac{1}{3} & \frac{1}{2} & 0 & 0 \end{matrix} \right\}

这样的结果显然是毫无意义的。但是这并不意味着凉了，任何的算法都是人想出来的，也就是模拟人的做法。如果你遇到一个直进不出的网站，那么肯定是开溜去另外一个网站，所以遇到这种情况，那直接就是退出去啊。所以遇到这种情况就是直接把这个图的终止点改成到每一个节点都有一条边，因为退出重新选择网页就相当于是从这个网页转移到其他网页去了。成功改变结果。

陷阱

只是指向了自己，多次收敛之后：

这个结果也是毫无意义的。同样，一个用户是不可能总是在一个网页里面打转。刚刚的添加转移的边方法也是可以的，但是比较常用的一种方法是用一个概率转移的方法，没一次用户不是都是一定会按照状态转移矩阵走的，所以可以加上一个退出的概率。

V_n = \alpha TV_{n-1}+ (1-\alpha)V_0

这样就稳了。

Summary

首先一个就是链接的质量问题，有很多导航栏的链接是不能和正常的跳转链接相比较的，比如CSDN两边的那些博客，都是自己写的，这些很影响判断的。还有一个就是没有过滤广告的链接，这些也是影响判断的。还有一个是类似于冷启动的问题，一个新网友如果是刚刚加了进来，一般是没有什么入度的，出度可能有，可能还要花些时间适应。

对于PageRank的公式化

每一个节点我们都给一个PR值给他们，也就是说会根据这个PR值来判断哪个网站走的概率最大。

这个时候

PR(A) = PR(B)+PR(C)

，然而，图中的B是不止一条的，B到A有两条路径，那么就是二分之一了，所以

PR(A) = \frac{PR(B)}{2}+\frac{PR(C)}{1}

，不断往下迭代即可。所以一个网页的迭代公式：

PR(i) = \alpha \sum_{j \in in(i)} \frac{PR(j)}{|L(P_j)|}+\frac{(1-\alpha)}{4}

N表示网页总数，in(i)表示的是指向网页i的网页集合，out(j)表示的就是网页j指向的网页集合。后面代码实现就是按照这个。

马尔科夫链的收敛性的证明

这个就有点牛逼了。
$T = \alpha T + \frac{(1-\alpha)}{N}ee^T \\ P_{n+1} = TP_{n}$
对于收敛性，有三个性质要证明的：

存在一个特征值 $\lambda = 1$

假设一个向量 $1_n = [1,1,...,1]^T$ ，由于每一列相加都是1，所以 $1_n^TT = 1_n^T = A^T1_n = 1_n$ 这个是直接根据性质证明的。

存在的特征值都是 $|\lambda| <= 1$

假设一个函数 $s(x) = \sum_{i=1}^n x_i$ ，假设 $T^2_i$ 代表的就是列向量，那么有： $s(T^2_l) = s(\sum_{i=1}^na_iali) = \sum_{i=1}^n s(a_i)a_{li} = \sum_{i=1}^na_{li} = 1$ 所以， $T^2$ 就还是马尔科夫矩阵，无论上面叠多少次方都还是。根据特征值的幂还有特征向量有 $T^n x = \lambda^n x$ ，如果 $\ambda > 1$ 那么就是无限大了，但是马尔科夫矩阵是小于1的，所以和假设矛盾 $\lambda <= 1$ 。

收敛性

$T^n u_0 = c_11^nx_1 + c_2 \lambda^n_2x_2+c_3 \lambda^n_3x_3+......+c_n \lambda^n_nx_n$ 因为只有一个特征值是1的，其他都是小于1的，n次方更不要说了，所以迭代多次之后绝壁收敛，实锤。参考：http://blog.sina.com.cn/s/blog_80ce3a550102xas8.html
这样就完整证明了PageRank算法。

代码实现

from pygraph.classes.digraph import digraph
import numpy as np
import pandas as pd
import matplotlib.pyplot as plt

class pageRank(object):

    def __init__(self, dg):
        self.alpha = 0.85
        self.maxCycles = 200
        self.min_delta = 0.0001
        self.graph = dg

    def page_rank(self):
        #没有出链的点先加上和所有点的边
        for node in self.graph.nodes():
            if len(self.graph.neighbors(node)) == 0:
                for node2 in self.graph.nodes():
                    digraph.add_edge(self.graph, (node, node2))
        nodes = self.graph.nodes()
        graphs_size = len(nodes)

        if graphs_size == 0:
            return 'nodes set is empty!'

        page_rank = dict.fromkeys(nodes, 1.0/graphs_size)
        runAway = (1.0 - self.alpha) / graphs_size
        flag = False
        for i in range(self.maxCycles):
            change = 0
            for node in nodes:
                rank = 0
                for incident_page in self.graph.incidents(node):
                    rank += self.alpha * (page_rank[incident_page] / len(self.graph.neighbors(incident_page)))
                rank += runAway
                change += abs(page_rank[node] - rank)
                page_rank[node] = rank

            print("NO.%s iteration" % (i + 1))
            print(page_rank)

            if change < self.min_delta:
                flag = True
                break
        return page_rank

导入数据代码我懒得写了，直接用了一个包里面的。

if __name__ == '__main__':
    dg = digraph()

    dg.add_nodes(["A", "B", "C", "D", "E"])

    dg.add_edge(("A", "B"))
    dg.add_edge(("A", "C"))
    dg.add_edge(("A", "D"))
    dg.add_edge(("B", "D"))
    dg.add_edge(("C", "E"))
    dg.add_edge(("D", "E"))
    dg.add_edge(("B", "E"))
    dg.add_edge(("E", "A"))

    pr = pageRank(dg)
    page_ranks = pr.page_rank()

    print("The final page rank is\n", page_ranks)

最后效果：

好像和推荐系统扯远了，但是这个算法要用到后面退出PersonalRank算法。

PersonalRank Algorithm

在PageRank算法中，计算出的PR值是每一个节点相对于全局的重要性程度，而在推荐问题里面要求的是商品对于用户的重要性了，而不是全局的重要性。比如，当这个用户U1计算的时候，就要遍历所有的商品进行计算，看看哪个商品的重要性相对于这个用户是最高的就推荐即可。
PersonalRank Algorithm是PageRank的变形，用于计算商品节点 $D_j$ 相对于用户节点U的重要程度。假设用户为 $U_1$ ，则从节点 $U_1$ 开始在用户——商品二部图中游走，游走到容易一个节点的时候，和PageRank算法一样，会按照一定的概率选择停止或者继续游走。直到每一个节点访问的概率不再变化位置。
首先引入二部图：

二部图是无向图的一种，若无向图

G=<V,E>

中，其中，V是无向图中的顶点的集合，E是无向图中边的集合。在无向图G中，边的集合V可以分成两个子集

V_1,V_2

，而且满足这两个子集交集为空。回到PersonalRank算法，在这个算法中不用区分用户和商品，上述节点的感兴趣程度就变成了对用户

U_1

计算各个节点

U_2,...,U_5,D_1,...,D_5

的重要程度。算法具体流程：
①初始化： $PR(U_1) = 1,PR(U_2) = 0,...,PR(U_5) = 0,PR(D_1) = 0,...,PR(D_5) = 0$ 。
②开始在图上游走，每次选择PR值不为0的节点开始，沿着边往前的概率为 $\alpha$ ，停在当前点的概率就是 $1-\alpha$ 了。
③首先U1开始，从U1到D2,D3,D4的概率就是 $\frac{1}{3}$ ，则此时D1,D2和D4的PR就是 $\alpha*PR(U_1)*\frac{1}{3}$ ，U1的PR值就变成了 $1-\alpha$ 。
④此时PR值不为0的节点为 $U_1,D_1,D_2,D_4$ ，则此时从这三点出发，继续上述的过程直到收敛为止。所以更新公式为： $PR(i) = (1-\alpha)r_i + \alpha \sum_{j \in in(i)} \frac{PR(j)}{|out(j)|} \\ r_i = 1:0?i = u$ 如果是在当前节点那么就要加上一个停留的概率了。

代码实现

def generate_dict(dataTmp):
    m, n = np.shape(dataTmp)
    data_dict = {}
    for i in range(m):
        tmp_dict = {}
        for j in range(n):
            if dataTmp[i, j] != 0:
                tmp_dict["D_" + str(j)] = dataTmp[i, j]
        data_dict["U_" + str(i)] = tmp_dict
    for j in range(n):
        tmp_dict = {}
        for i in range(m):
            if dataTmp[i, j] != 0:
                tmp_dict["U_" + str(i)] = dataTmp[i, j]
        data_dict["D_" + str(j)] = tmp_dict
    return data_dict

转换成二部图。


def PersonalRank(data_dict, alpha, user, maxCycles):
    rank = {}
    for x in data_dict.keys():
        rank[x] = 0
    rank[user] = 1
    step = 0
    while step < maxCycles:
        tmp = {}
        for x in data_dict.keys():
            tmp[x] = 0
        for i, ri in data_dict.items():
            for j in ri.keys():
                if j not in tmp:
                    tmp[j] = 0
                tmp[j] += alpha * rank[i] / (1.0 * len(ri))
                if j == user:
                    tmp[j] += (1-alpha)
        check = []
        for k in tmp.keys():
            check.append(tmp[k] - rank[k])
        if sum(check) <= 0.0001:
            break
        rank = tmp
        if step % 20 == 0:
            print('NO: ', step)
        step += 1
    return rank

效果：

最后附上GitHub代码：https://github.com/GreenArrow2017/MachineLearning/tree/master/MachineLearning/Recmmended%20System

最后编辑于：2018.09.29 17:18:33

人面猴
序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
沈念sama阅读 204,293评论 6赞 478
死咒
序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
沈念sama阅读 85,604评论 2赞 381
救了他两次的神仙让他今天三更去死
文/潘晓璐我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
开封第一讲书人阅读 150,958评论 0赞 337
道士缉凶录：失踪的卖姜人
文/不坏的土叔我叫张陵，是天一观的道长。经常有香客问我，道长，这世上最难降的妖魔是什么？我笑而不...
开封第一讲书人阅读 54,729评论 1赞 277
港岛之恋（遗憾婚礼）
正文为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
茶点故事阅读 63,719评论 5赞 366
恶毒庶女顶嫁案：这布局不是一般人想出来的
文/花漫我一把揭开白布。她就那样静静地躺着，像睡着了一般。火红的嫁衣衬着肌肤如雪。梳的纹丝不乱的头发上，一...
开封第一讲书人阅读 48,630评论 1赞 281
城市分裂传说
那天，我揣着相机与录音，去河边找鬼。笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。我是一名探鬼主播，决...
沈念sama阅读 38,000评论 3赞 397
双鸳鸯连环套：你想象不到人心有多黑
文/苍兰香墨我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
开封第一讲书人阅读 36,665评论 0赞 258
万荣杀人案实录
序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
沈念sama阅读 40,909评论 1赞 299
护林员之死
正文独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋以下内容为张勋视角年9月15日...
茶点故事阅读 35,646评论 2赞 321
白月光启示录
正文我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
茶点故事阅读 37,726评论 1赞 330
活死人
序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
沈念sama阅读 33,400评论 4赞 321
日本核电站爆炸内幕
正文年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
茶点故事阅读 38,986评论 3赞 307
男人毒药：我在死后第九天来索命
文/蒙蒙一、第九天我趴在偏房一处隐蔽的房顶上张望。院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
开封第一讲书人阅读 29,959评论 0赞 19
一桩弑父案，背后竟有这般阴谋
文/苍兰香墨我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。一阵脚步声响...
开封第一讲书人阅读 31,197评论 1赞 260
情欲美人皮
我被黑心中介骗来泰国打工，没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。一个月前我还...
沈念sama阅读 44,996评论 2赞 349
代替公主和亲
正文我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
茶点故事阅读 42,481评论 2赞 342

Recommended System

推荐系统

推荐系统的评估方法

准确度

覆盖率

多样性

冷启动

相似度的衡量

推荐算法

基于内容的推荐

基于关联规则的推荐

协同过滤的推荐

基于知识的推荐

基于图的推荐

组合推荐

基于内容的推荐系统

协同过滤的推荐

user-based CF

item_based CF

user-based vs item-based

CF的优缺点

基于隐语义的推荐

上面提到的只是最简单的MF模型，但是这类模型有一个缺点，他们分解出来的东西会有负数，这就尴尬了，因为很少有变量因素会其负作用的，于是便出现了非负矩阵分解。

NMF

KL损失函数

代码实现

CF VS隐语义

基于图的推荐

PageRank Algorithm

矩阵T的条件

终止点

陷阱

Summary

对于PageRank的公式化

马尔科夫链的收敛性的证明

存在一个特征值

存在的特征值都是

收敛性

代码实现

PersonalRank Algorithm

代码实现

最后附上GitHub代码：https://github.com/GreenArrow2017/MachineLearning/tree/master/MachineLearning/Recmmended%20System

推荐阅读更多精彩内容

存在一个特征值 $\lambda = 1$

存在的特征值都是 $|\lambda| <= 1$