因果推断推荐系统工具箱 - RelMF（一）

文章名称

Unbiased Recommender Learning from Missing-Not-At-Random Implicit Feedback

核心要点

文章旨在利用有偏差影响的观测数据上，有效学习模型来正确物品-用户的匹配关系（用户对物品的偏好，而不是高点击率）。作者首先推导出学习用户-物品相关性的理想的损失函数，并提出对该损失函数的无偏估计器。随后分析该估计器的方差，并提出截断估计器，进一步提升性能。

方法细节

问题引入

现有推荐系统模型常常利用用户的隐式反馈（如点击），没有观测到用户点击某个物品，并不一定代表用户不喜欢该物品，有可能该物品没有被曝光给用户，是典型的PU问题。原有解决PU问题的方法，利用对Positive样本提权或者利用EM方法估计样本置信度的策略学习模型。但是这写模型没有办法处理MNAR的问题，用户即便不一定喜欢某物品也会因为它比较流行而点进去看看（所以这个意思代表正样本可能也不可靠？这里说的应该是流行度偏差，上边说的应该是选择性偏差）。

矩阵 $Y$ 是用户的点击（反馈）矩阵，其中， $y_{u,i}$ 是用户-物品元组的点击率，服从伯努利分布。 $y_{u,i}=1$ 是正反馈， $y_{u,i}=0$ 是可能是负反馈，也可能是没有标签的正反馈。矩阵 $R$ 是用户与物品的真实相关性（偏好）矩阵， $r_{u,i}$ 服从伯努利分布。 $r_{u,i}=1$ 是表示用户 $u$ 喜欢物品 $i$ ，反之 $r_{u,i}=0$ 。矩阵 $O$ 是观测矩阵， $o_{u,i}$ 服从伯努利分布，表示用户是否被曝光过某物品。上述三个矩阵只有 $Y$ 是可观测到的，而 $R$ 和 $O$ 都是不可观测的（隐变量）。

我们假设 $y_{u,i} = r_{u,i} o_{u,i}; P(y_{u,i}) = \theta_{u,i} \gamma_{u,i}$ ，其中， $P(o_{u,i}=1) = \theta_{u,i}, P(r_{u,i}=1) = \gamma_{u,i}$ 。并且 $y_{u,i}=1 \Leftrightarrow o_{u,i}=1 \& r_{u,i}=1$ 。

通常情况下，在评价推荐模型的排序结果时，采用如下图所示的评价标准。 $c(\cdot)$ 是排序的评价函数， $\hat{Z}_{u,i}$ 是用户-物品元组的排序，DCG@K的 $c(\hat{Z}_{u,i}) = \frac{\mathbb{I} \{\hat{Z}_{u,i} < K \} }{log(\hat{Z}_{u,i}+1)}$ 。如前所述，用户的点击并不一定和用户偏好直接相关。因此，这个评价方法，并不能评价出模型对用户的真实偏好预测的性能好坏。

click evaluation metric

正确的相关性评估如下图所示。对比可以发现，公式利用 $P(r_{u,i}=1)$ 代替了 $P(y_{u,i}=1)$ 。

revalence evaluation metric

进而（在pointwise的场景下）可以得到优化的目标损失函数，如下图所示。其中， $\delta^{(R)}$ 是交叉熵损失函数。

ideal revalence loss function

Bias of previous methods

接下来，我们分析一下WMF和ExpoMF的损失函数是否存在偏差。WMF的损失函数如下图所示。其中 $c$ 是超参数，表示对正样本提权的权重（因为作者认为正样本是更置信的），在没有其他额外信息的情况下，WMF是对所有样本等权重提权的，即下图损失函数中的 $c$ 。

WMF loss function

接下来，证明WMF的损失函数是有偏差的，证明过程如下图所示。其中，在对WMF损失函数求期望后，可以提出常数项，由于反馈 $Y_{u,i}$ 服从伯努利分布，其期望为 $Y_{u,i}=1$ 的概率，如上述假设可以得到， $E[Y_{u,i}] = P(Y_{u,i}=1) = \theta_{u,i}\gamma_{u,i}$ ，进而得到最终的偏差结果。由于误差项 $\delta_{u,i}^{(0), (1)}$ 以及各项概率 $theta_{u,i}, \gamma_{u,i}$ 不为0， $c \ge 1$ ，因此该偏差不为0，表明WMF的损失函数是有偏的（作者从每个用户-物品对的角度详细分析，不可能对每一个用户-物品对 $\theta_{u,i} = \frac{1}{c}$ 且 $\theta_{u,i}=1$ ，所以偏差不为0。其实，和我们说的是一样的）。

WMF bias

WMF bias cont.

具体做法

今天这一节先到这里，下一节继续讲解ExpoMF的偏差以及作者提出的方法。

心得体会

无法用分布特征函数？

个人理解，其实可以利用均值、方差等特征分布函数来从种子用户的评分结果中提取评分分布特征，（VAE不就是这样的模型？）。只是这样会导致评分分布数固定的（参数化模型相比非参数化模型的劣势）。

禁止转载，如需转载请通过简信或评论联系作者。

人面猴
序言：七十年代末，一起剥皮案震惊了整个滨河市，随后出现的几起案子，更是在滨河造成了极大的恐慌，老刑警刘岩，带你破解...
沈念sama阅读 204,732评论 6赞 478
死咒
序言：滨河连续发生了三起死亡事件，死亡现场离奇诡异，居然都是意外死亡，警方通过查阅死者的电脑和手机，发现死者居然都...
沈念sama阅读 87,496评论 2赞 381
救了他两次的神仙让他今天三更去死
文/潘晓璐我一进店门，熙熙楼的掌柜王于贵愁眉苦脸地迎上来，“玉大人，你说我怎么就摊上这事。” “怎么了？”我有些...
开封第一讲书人阅读 151,264评论 0赞 338
道士缉凶录：失踪的卖姜人
文/不坏的土叔我叫张陵，是天一观的道长。经常有香客问我，道长，这世上最难降的妖魔是什么？我笑而不...
开封第一讲书人阅读 54,807评论 1赞 277
港岛之恋（遗憾婚礼）
正文为了忘掉前任，我火速办了婚礼，结果婚礼上，老公的妹妹穿的比我还像新娘。我一直安慰自己，他们只是感情好，可当我...
茶点故事阅读 63,806评论 5赞 368
恶毒庶女顶嫁案：这布局不是一般人想出来的
文/花漫我一把揭开白布。她就那样静静地躺着，像睡着了一般。火红的嫁衣衬着肌肤如雪。梳的纹丝不乱的头发上，一...
开封第一讲书人阅读 48,675评论 1赞 281
城市分裂传说
那天，我揣着相机与录音，去河边找鬼。笑死，一个胖子当着我的面吹牛，可吹牛的内容都是我干的。我是一名探鬼主播，决...
沈念sama阅读 38,029评论 3赞 399
双鸳鸯连环套：你想象不到人心有多黑
文/苍兰香墨我猛地睁开眼，长吁一口气：“原来是场噩梦啊……” “哼！你这毒妇竟也来了？” 一声冷哼从身侧响起，我...
开封第一讲书人阅读 36,683评论 0赞 258
万荣杀人案实录
序言：老挝万荣一对情侣失踪，失踪者是张志新（化名）和其女友刘颖，没想到半个月后，有当地人在树林里发现了一具尸体，经...
沈念sama阅读 41,704评论 1赞 299
护林员之死
正文独居荒郊野岭守林人离奇死亡，尸身上长有42处带血的脓包…… 初始之章·张勋以下内容为张勋视角年9月15日...
茶点故事阅读 35,666评论 2赞 321
白月光启示录
正文我和宋清朗相恋三年，在试婚纱的时候发现自己被绿了。大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
茶点故事阅读 37,773评论 1赞 332
活死人
序言：一个原本活蹦乱跳的男人离奇死亡，死状恐怖，灵堂内的尸体忽然破棺而出，到底是诈尸还是另有隐情，我是刑警宁泽，带...
沈念sama阅读 33,413评论 4赞 321
日本核电站爆炸内幕
正文年R本政府宣布，位于F岛的核电站，受9级特大地震影响，放射性物质发生泄漏。R本人自食恶果不足惜，却给世界环境...
茶点故事阅读 39,016评论 3赞 307
男人毒药：我在死后第九天来索命
文/蒙蒙一、第九天我趴在偏房一处隐蔽的房顶上张望。院中可真热闹，春花似锦、人声如沸。这庄子的主人今日做“春日...
开封第一讲书人阅读 29,978评论 0赞 19
一桩弑父案，背后竟有这般阴谋
文/苍兰香墨我抬头看了看天上的太阳。三九已至，却和暖如春，着一层夹袄步出监牢的瞬间，已是汗流浃背。一阵脚步声响...
开封第一讲书人阅读 31,204评论 1赞 260
情欲美人皮
我被黑心中介骗来泰国打工，没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留，地道东北人。一个月前我还...
沈念sama阅读 45,083评论 2赞 350
代替公主和亲
正文我出身青楼，却偏偏与公主长得像，于是被迫代替她去往敌国和亲。传闻我的和亲对象是个残疾皇子，可洞房花烛夜当晚...
茶点故事阅读 42,503评论 2赞 343