简单而言,皮尔逊相关度,指的是向量去中心化后的夹角余弦。
公式推演过程如下:
一、余弦
简单复习一下中学数学。
二、向量夹角余弦
从两个向量入手,计算夹角余弦,推演得到计算公式。
三、向量去中心化后的夹角余弦
去中心化,就是将数据集的每一个样本减去样本均值。处理后样本均值为零。
将两个向量分别去中心化,再根据夹角余弦的公式进行计算,得到的结果就是皮尔逊相关度。
以下是实现的代码。
第一个函数是根据推演过程自己编写的,第二个函数是《集体智慧编程》中的代码,经过验证,两者计算结果一致。
"""
皮尔逊相关度评价
pearson correlation score
"""
#自己编写
def sim_pearson(prefs,person1,person2):
per1 = {}
per2 = {}
for item in prefs[person1]:
if item in prefs[person2]:
per1[item] = prefs[person1][item]
per2[item] = prefs[person2][item]
n = len(per1)
if n == 0:
return 1 #为什么返回1???1代表完全一致
sum_per1 = 0
sum_per2 = 0
for item in per1:
sum_per1 = sum_per1 + per1[item]
sum_per2 = sum_per2 + per2[item]
mean_per1 = sum_per1/n
mean_per2 = sum_per2/n
for item in per1:
per1[item] = per1[item] - mean_per1
per2[item] = per2[item] - mean_per2
sum = 0
for item in per1:
sum = sum + per1[item]*per2[item]
sqr_per1 = 0
sqr_per2 = 0
for item in per1:
sqr_per1 = sqr_per1 + pow(per1[item],2)
sqr_per2 = sqr_per2 + pow(per2[item],2)
sqr_per1 = sqrt(sqr_per1)
sqr_per2 = sqrt(sqr_per2)
if (sqr_per1*sqr_per2) == 0:
return 0
sim = sum/(sqr_per1*sqr_per2)
return sim
#书本算法
def sim_pearson2(prefs,person1,person2):
si = {}
for item in prefs[person1]:
if item in prefs[person2]:
si[item] = 1
n = len(si)
if n == 0:
return 1
sum1 = sum([prefs[person1][it] for it in si])
sum2 = sum([prefs[person2][it] for it in si])
sum1sq = sum([pow(prefs[person1][it],2) for it in si])
sum2sq = sum([pow(prefs[person2][it],2) for it in si])
psum = sum([prefs[person1][it]*prefs[person2][it] for it in si])
num = psum - (sum1*sum2/n)
den = sqrt((sum1sq - pow(sum1,2)/n)*(sum2sq - pow(sum2,2)/n))
if den == 0:
return 0
r = num/den
return r