因果推断推荐系统工具箱 - Bias and Debias in Recommender System: A Survey and Future Directions(五)

文章名称

Bias and Debias in Recommender System: A Survey and Future Directions

核心要点

上一节中,我们介绍一下如何在具有selection bias的数据上进行模型的训练,减缓具有selection bias的数据对模型效果的影响。今天我们介绍一下Conformity Bias和Exposure Bias的解决办法。

方法细节

问题引入

如前所述,Conformity Bias的问题主要出现在用户受到他人评分的影响致使最终评分偏离其实际偏好的情况。Exposure Bias经常出现在物品比较长尾,用户没有感知到某些物品的存在的场景。这个时候,没有反馈,不一定是不喜欢,只是因为没有看到。

具体做法

Conformity Bias

现有的解决Conformity Bias的方法可以分为两类,

  • 第一类认为用户的评分会与大众评分趋同,[1]提出建模的时候考虑三个变量,c_{u, i}表示用户评分前有多少用户对这个物品进行过打分(也就是之前的评分频度),a_{u, i}表示用户对这个物品打分的平均值,d_{u, i}表示用户对这个物品打分的分布,并且最终用下图所示的方法利用XGB进行预测,具体参见[1]。其中,\omega用来控制Conformity Bias的调节力度,t_{u,i}是用基础模型预测的,用户对该物品评分的预测值。这种方式实际上是把其他评分对用户的影响加入到最后的模型调整步骤中,算是对模型的某种矫正。

    Type 1 Method of Conformity Bias

  • 第二类从把用户评分看做是用户偏好和其社会影响力共同作用的结果,比如说社会影响力小的会受到和会影响力大的用户的评分的影响,具体方法文中没有做过多介绍,具体做法可以参见[2], [3], [4], [5]。本质上和第一种方法是类似的,都是通过某种影响因子调整用户的评分,只是影响因子的估算方法有些差别。(这里留个坑,有时间讲讲细节...)

Exposure Bias

Exposure Bias同Selection Bias一样,同时出现在模型评估和模型训练两个阶段,我们首先来看一下模型评估阶段。
进行隐式反馈模型评估的方法,通常采用AUC,DCG@k,Recall@k等指标,同Selection BIas一样,由于观测分布并非理论分布的随机采样。因此,需要进行观测分布的调整。常用的方法仍然是IPS,[6]首先提出如下图所示的理论评估基准,其中\hat{Z}_{u,i}是模型估计的用户偏好的物品排序,S_u是用户在所有商品中会喜欢的商品集合,而c(\cdot)表示某种评价函数。具体的评价函数如下图所示。

implicit evaluation metrics

然而,由于Exposure Bias的存在,只有用户喜欢的物品中,只有部分物品被展示给用户,造成隐式反馈存在偏差。其中,S^*_u表示被曝光给用户u的并且他/她喜欢的物品的集合,O_{u, i}是一个二值标量,表示物品是否被观测到。
biased metric

因此,[6]提出用IPS进行调权,调权方法如下图所示。经过调整后的评估指标,对经常被观测到的样本进行降权,而对不见经常观测到的物品进行提权,确保指标是理论分布的随机采样的结果,即消除Exposure Bias的影响。
weighted metric

心得体会

Exposure Bias

曝光偏差有点类似PU的情况,没有被曝光的物品是没有标签的。我们需要假设这些物品被曝光后,会是什么样的结果。和PU场景不相似的地方是,P一定代表positive,但是这里的“P”其实是代表这个user-item对被观测到了反馈,可能是正反馈,也可能是负反馈。

文章引用

[1] Y. Liu, X. Cao, and Y. Yu, “Are you influenced by others when rating?: Improve rating prediction by conformity modeling,” in RecSys. ACM, 2016, pp. 269–272.
[2] H. Ma, I. King, and M. R. Lyu, “Learning to recommend with social trust ensemble,” in SIGIR. ACM, 2009, pp. 203–210.
[3] J. Tang, H. Gao, and H. Liu, “mtrust: discerning multi-faceted trust in a connected world,” in WSDM. ACM, 2012, pp. 93–102.
[4] A. J. Chaney, D. M. Blei, and T. Eliassi-Rad, “A probabilistic model for using social networks in personalized item recommendation,” in RecSys. ACM, 2015, pp. 43–50.
[5] X. Wang, S. C. Hoi, M. Ester, J. Bu, and C. Chen, “Learning personalized preference of strong and weak ties for social recommendation,” in WWW. IW3C2, 2017, pp. 1601–1610.
[6] L. Yang, Y. Cui, Y. Xuan, C. Wang, S. Belongie, and D. Estrin, “Unbiased offline recommender evaluation for missing-not-atrandom implicit feedback,” in RecSys, 2018, pp. 279–287.

©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 199,830评论 5 468
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 83,992评论 2 376
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 146,875评论 0 331
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 53,837评论 1 271
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 62,734评论 5 360
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,091评论 1 277
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 37,550评论 3 390
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,217评论 0 254
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 40,368评论 1 294
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,298评论 2 317
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,350评论 1 329
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,027评论 3 315
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 38,623评论 3 303
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 29,706评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 30,940评论 1 255
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 42,349评论 2 346
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 41,936评论 2 341

推荐阅读更多精彩内容