[推荐系统01]基于内容的推荐

简书不支持目录。。。

目录

概述

基于内容的推荐系统会挖掘用户曾经喜欢的物品,从而去推荐类似的物品。本质上就是利用用户已知偏好,兴趣等特征和物品的特征相匹配,以此为用户推荐新的感兴趣的商品

基于内容推荐

流程图

三个主要阶段
内容分析器:处理数据格式,抽取信息得到结构化描述
信息学习器:构建用户特征数据
过滤组件:将用户个人信息和物品进行匹配,利用用户特征进行推荐

用户的反馈

  • 显示反馈
    • 喜欢/不喜欢
    • 评分
    • 文本评论->情感分析->积极/消极
  • 隐式反馈
    • 保存,删除,打印,收藏

基于内容推荐优缺点

优点

  • 用户独立性:只从当前用户提供的评分构建兴趣模型,不需要像CF一样找近邻
  • 透明度:可以显示的列出使物品出现在推荐列表的特征,具有可解释性,物品特征还可以作为是否新人推荐的指标
  • 新物品:对于新物品,在没有用户任何评分的情况下也可以进行推荐

缺点

  • 可分析内容有限:必须去提取物品各个维度的特征,很难说提取充分
  • 过度特化:无法发现令人惊喜的推荐,新颖性上的缺陷,只能推荐用户兴趣相似的物品
  • 新用户:首先要有足够评分才能构建可信的用户兴趣模型,评分数据少的情况下,推荐不可靠

推荐系统技术细节

机器学习视角
看做一个用用户过去知识来学习的学习问题,用户特征反应了用户的长期兴趣,用户特征来源于用户过去被显示/隐式标记为感兴趣的信息,不建议强迫用户提供,构建系统去收集和学习。
预测模型的目标是用户感兴趣/不感兴趣,可以看做一个分类问题

物品特征处理

对于非结构化特征,如文本,需要提取文本的特征


关键词向量空间

基于TF-IDF的向量空间模型(Vector Space Model,VSM)
每个文档都是一个n维的向量,每个维度对应一个词语。每个文档被表示为词权重的向量,权重表达了词和文档的关联程度
VSM中,文档表示2个主要问题:确定单词权重;度量特征向量相似度

  • 单词权重的特点
    • 稀有词相关性 >= 频繁词相关性(逆文档率假设)
    • 一篇文档中多次出现的词相关性 >= 只出现一次的词
    • 长文档不一定比短文档好
    • 一个词,在一篇文档出现次数很多(词频TF),在其他文档中很少出现(逆文档率IDF),则与该文档相关性很高
    • $$TF-IDF(t_k,d_j)=\frac{f_{k,j}}{max_zf_{z,j}}\cdot log\frac{N}{n_k}$$
    • 进行权重归一化,防止对长文档有偏向
    • 相似度计算利用余弦相似度

基于关键词的系统

一些小例子
Web推荐系统Letizia通过隐式反馈来推断用户喜好,例如收藏网页等动作
Web推荐系统WevWatcher根据访问网页和离开已访问网页链接,来构建用户兴趣模型
ifWeb加入了时间衰减机制
新闻推荐过滤器中,考虑学习短期和长期2类特征。NewsDude利用TF-IDF学习用户短期兴趣,利用贝叶斯学习用户长期兴趣

基于关键词的系统存在的问题
基于关键词的系统,物品和用户的信息采集基于关键词表示,通过足够多的信息证明用户兴趣可用,就能预测用户行为。大多数情况都是建立用户兴趣正例负例的文本分类器
推荐准确率依赖大量文本训练数据,训练集的好坏依赖自然语言处理的结果
如果有语义层次的智能,将会改善基于关键词的系统

运用本体的语义分析

语义分析需要学习大量准确的信息,基于语义的推荐要可以翻译自然语言文档和分析内容

语义推荐需要考虑的内容

  1. 知识源类型(词典 or 本体)
  2. 物品注释或表达所采用的技术
  3. 用户信息的内容的类型
  4. 物品-用户匹配策略

运用的例子
· SiteIF是第一个基于感知的文档表示来构建用户兴趣模型,每个新闻利用词邻域消歧关联到同义词集合,用户模型来自于用户读过文档对应的同义词集合
· SEWeP是一个web个性化系统,利用日志和web站点内容的语义来实现个性化抽取网页关键词,对应到类别的概念里,类别就是用户的兴趣主题
· Quickstep是个论文推荐系统,运用kNN结合论文的语义标注和论文研究主体进行推荐,用户兴趣就是一组主题和主题的兴趣值
· Informed Recommender利用用户评价给出推荐,评价分为观点的质量和商品的质量两部分,可以响应用户对于某个特征的不同质量的请求
· IDT是一个电视推荐系统,电视知识和用户特征都用OWL本体表示,本体-用户特征给出了用户偏好的表示,可以找到偏好的原因。推荐阶段采用用户特征中的知识来发现隐藏在偏好和物品间的语义关联

用户特征处理

学习用户特征的问题可以转化为一个二元分类问题,感兴趣/不感兴趣
概率方法和朴素贝叶斯

朴素贝叶斯是一个归纳式学习的概率方法,基于观测数据产生一个概率模型


Paste_Image.png

即文档d属于类别c的后验概率
决策函数就是去概率最大的类别


Paste_Image.png

朴素贝叶斯的问题在于它假设所有的词之间都条件独立,然而这并不符合实际情况

相关反馈和Rocchio
来自信息检索,帮助用户逐步完善之前搜索的结果,由根据所需用户检索到的相关文档,给出进一步用户反馈组成,常用Rocchio
原则是允许用户给推荐系统的推荐结果打分,利用反馈逐步完善推荐

Paste_Image.png

w是TF-IDF权重,POS是正例集合,NEG是负例集合,β和γ是控制参数

基于内容推荐的拓展

  • 用户产生内容(User Generated Content,UGC),用户利用标签来标注和区分感兴趣内容,但是还有很多问题,例如多义词,标签同义词等
  • 社会化标签推荐,对用户打标签,有标签向量,协同标注等方法,还有对标签评分的尝试
最后编辑于
©著作权归作者所有,转载或内容合作请联系作者
  • 序言:七十年代末,一起剥皮案震惊了整个滨河市,随后出现的几起案子,更是在滨河造成了极大的恐慌,老刑警刘岩,带你破解...
    沈念sama阅读 206,013评论 6 481
  • 序言:滨河连续发生了三起死亡事件,死亡现场离奇诡异,居然都是意外死亡,警方通过查阅死者的电脑和手机,发现死者居然都...
    沈念sama阅读 88,205评论 2 382
  • 文/潘晓璐 我一进店门,熙熙楼的掌柜王于贵愁眉苦脸地迎上来,“玉大人,你说我怎么就摊上这事。” “怎么了?”我有些...
    开封第一讲书人阅读 152,370评论 0 342
  • 文/不坏的土叔 我叫张陵,是天一观的道长。 经常有香客问我,道长,这世上最难降的妖魔是什么? 我笑而不...
    开封第一讲书人阅读 55,168评论 1 278
  • 正文 为了忘掉前任,我火速办了婚礼,结果婚礼上,老公的妹妹穿的比我还像新娘。我一直安慰自己,他们只是感情好,可当我...
    茶点故事阅读 64,153评论 5 371
  • 文/花漫 我一把揭开白布。 她就那样静静地躺着,像睡着了一般。 火红的嫁衣衬着肌肤如雪。 梳的纹丝不乱的头发上,一...
    开封第一讲书人阅读 48,954评论 1 283
  • 那天,我揣着相机与录音,去河边找鬼。 笑死,一个胖子当着我的面吹牛,可吹牛的内容都是我干的。 我是一名探鬼主播,决...
    沈念sama阅读 38,271评论 3 399
  • 文/苍兰香墨 我猛地睁开眼,长吁一口气:“原来是场噩梦啊……” “哼!你这毒妇竟也来了?” 一声冷哼从身侧响起,我...
    开封第一讲书人阅读 36,916评论 0 259
  • 序言:老挝万荣一对情侣失踪,失踪者是张志新(化名)和其女友刘颖,没想到半个月后,有当地人在树林里发现了一具尸体,经...
    沈念sama阅读 43,382评论 1 300
  • 正文 独居荒郊野岭守林人离奇死亡,尸身上长有42处带血的脓包…… 初始之章·张勋 以下内容为张勋视角 年9月15日...
    茶点故事阅读 35,877评论 2 323
  • 正文 我和宋清朗相恋三年,在试婚纱的时候发现自己被绿了。 大学时的朋友给我发了我未婚夫和他白月光在一起吃饭的照片。...
    茶点故事阅读 37,989评论 1 333
  • 序言:一个原本活蹦乱跳的男人离奇死亡,死状恐怖,灵堂内的尸体忽然破棺而出,到底是诈尸还是另有隐情,我是刑警宁泽,带...
    沈念sama阅读 33,624评论 4 322
  • 正文 年R本政府宣布,位于F岛的核电站,受9级特大地震影响,放射性物质发生泄漏。R本人自食恶果不足惜,却给世界环境...
    茶点故事阅读 39,209评论 3 307
  • 文/蒙蒙 一、第九天 我趴在偏房一处隐蔽的房顶上张望。 院中可真热闹,春花似锦、人声如沸。这庄子的主人今日做“春日...
    开封第一讲书人阅读 30,199评论 0 19
  • 文/苍兰香墨 我抬头看了看天上的太阳。三九已至,却和暖如春,着一层夹袄步出监牢的瞬间,已是汗流浃背。 一阵脚步声响...
    开封第一讲书人阅读 31,418评论 1 260
  • 我被黑心中介骗来泰国打工, 没想到刚下飞机就差点儿被人妖公主榨干…… 1. 我叫王不留,地道东北人。 一个月前我还...
    沈念sama阅读 45,401评论 2 352
  • 正文 我出身青楼,却偏偏与公主长得像,于是被迫代替她去往敌国和亲。 传闻我的和亲对象是个残疾皇子,可洞房花烛夜当晚...
    茶点故事阅读 42,700评论 2 345

推荐阅读更多精彩内容