前言:近年来产品体验监测体系声量越来越大,多行业都在摸索搭建。我所在的公司也在推广体验研究,本文主要是接触近一年的经验沉淀,也希望能对读者有一定的启发思考。
经常有人问到,NPS的优劣势是什么,和满意度有什么不同?个人觉得,其实两个方法都可以用来衡量体验水平,但NPS指标更多侧向忠诚度测量(意愿),满意度指标更多侧向满意程度(态度),而最终的目的都是希望在做调研做体验提升的过程中,在部门内建立起体验意识。
而使用NPS,也需要意识到指标本身的优劣势力,优势:第一是这个指标可以预测用户忠诚度和复购行为,代表一定的商业意义,而互联网行业注重拉新复购,指标还是有一定业务意义的;第二是模型已经经过验证,各研究公司以及各行各业都在使用的指标,对于在整体公司里推进还是比较有说服性的;第三是易于理解和易于跟踪,业务部门内传播简单。劣势:第一,了解用户的态度最好是以过去行为为准,NPS指标其实问的是未来行为;第二,NPS只是一个数字,在深挖具体体验问题的时候还需分拆到二三级指标,而通常持续性投放的问卷设计会比较粗浅(为了填答有效率减少疲惫性会控制题目数量),还需注意更多问卷以外的数据一起把用户体验问题做定位及呈现。
搭建用户体验监控体系的五个步骤:搭建指标、问卷设计、指标分析、问题定位、联动改进
第一步 搭建指标,设定提升目标值
1. 搭建完整的指标体系,指标颗粒度要够细从而可以进行问题定位以及趋势监控,所以一般需要设计到三级指标或者更细。一般采用的一级指标为NPS或大满意度指标都可以,二三级指标则以自身产品相关而设计变化。以电商产品为例,采用的二级指标都是跟本行业相关联的,二级指标包括如商品价格、购买流程、商品质量、商品种类......等等,而到二级指标颗粒度还是比较大的,不好定位监测具体问题,所以也可以进而拆分成相应的三级指标。
2.以上提到的二三级指标如何选取设置呢。- 可以结合时间&经验
有时间&经验较少的做法:可以是做一次完整的定性+定量调研。整体对用户旅程进行梳理,结合定性调研梳理二三级关键因素,作为定量调研指标量表执行预研,对预研收集回来的数据进行分析,去对指标表进行增减修改以确定最终的指标表。
没时间&有经验的做法:如果时间相对没有那么充足,可以根据之前对产品的体验研究经验,把关键二级指标先定出来,因为体验监测项目都是每个Q或每个月执行的,大分数都是为后续环比做比较的,可以整体先往前推进,在第一轮监控投放后,针对填答问卷的用户进行回访,以及根据用户VOC声音聚类分析,补齐三级指标的设计。
3. 整体目标值的设计
一般部门内做体验监测不会涉及到目标值设置,多是了解整体体验水平和发掘体验落后的模块去提升。我所在的公司因为整体在进行体验指标强考核,所以会涉及到目标值的设计。我在设置目标值的时候,或去使用同比/环比数据测算测算目标值,并根据整体提升幅度对二级指标设置目标值,而其实有一个合理的目标值,相关业务才会对具体的数字以及努力的方向有一定的感知。
第二步 问卷设计方法
可以全使用李克特标准量表或者简化下探多选题:
采用李克特标准量表的好处是调研做得更精细,可以题项间关联计算各层级指标的权重,但用户填答的费时费力度高,因为一般体验问卷都还挺长的。*问卷的写法:首先问用户的NPS推荐意愿/满意度,然后再展开二三级维度的5分满意度量表题目。
简化下探多选题,意思是把二三级指标都直接用多选题形式填答,这样的好处是填答比较快速,用户填答质量更高一些。*问卷的写法:首先问用户的NPS推荐意愿/满意度,如用户推荐意愿高/满意度高,那么问愿意推荐/满意的原因,在具体选择的二级指标下,再对这个指标进行下探追问;反之,则问不满意的原因以及下探。
第三步 相关指标计算分析
将数据收集回来后,我会通过计算三个指标了解整体体验情况以及具体维度的体验改进优先级:各整体推荐意愿、维度的表现,各维度的重要性。同时也会有更细化的分析,会在本文第四部分提到。
若采用李克特量表设计的问卷,表现分数直接使用满意度均值,重要性计算则采用相关系数计算或主成分权重计算。相关系数易于理解,即计算二级维度与一级维度的相关系数作为重要性维度,或三级维度与二级维度的相关系数。而主成分权重计算法,则通过总方差解释表和旋转后的成分矩阵表,计算①指标在不同主成分线性组合中的系数 ②主成分的方差贡献率 ③指标权重的归一化,以得到各二级维度权重,以及三级维度权重,而二级维度权重加总等于1,各二级维度下三级维度权重加总等于1。
若采用简单下探方法,维度表现的计算类似NPS的计算方式:(该维度推荐人数-该维度贬损人数)/整体样本,代表整体样本中,有多少用户是该维度的净值,值越高表示越好;维度重要性计算:维度提及量/整体样本,代表选择该维度的人数情况,越多代表该维度越重要。(以上也可采用归一化处理)
以上计算后可以做四象限图分析出表现差及重要性高的维度,以确定改进优先级。后续下一轮调研结果出来后,还可以计算月度/季度环比差值,结合维度表现分数,做四象图分析到本周期得分下降且本轮表现分数低的维度,多方面得出各维度得分表现情况。
第四步 结合维度表现,定位产品/业务问题
如完成第三步,知道了某几个维度需重点关注提升,当把报告与具体业务方沟通,经常会遇到一些疑难声音:那我具体该如何提升呢?我的业务指标都表现是趋好的,分数怎么会是走低的呢?
所以,只分析出来哪些维度体验要提升还不够,还需要告诉业务具体问题在哪里,改善什么能使得体验分数提升。这里我会用到的分析源:① 调研本身的更细化的数据 ② 平台用户进线咨询记录 ③ 搭建体验运营指标 ④ 了解业务的重要迭代及营销活动
调研本身的问卷数据:整体方向是以三级下探维度原因项定位主要问题,结合贬损用户开放题填答,勾出主要案例用以理解传播,若贬损用户填答较少,可以结合用户日常的进线咨询分析。例子:电商产品中客服维度指标调研得分低,通过调研本身三级维度原因可定位为商家客服反映慢问题,再从贬损用户/进线咨询中提取具体案例声音。另外电商产品还可以拆到具体类目、商家层级以及人群,可具体针对二三级维度问题具体拆分析方向,如分析价格体验可以拆分到类目维度来分析,分析配送体验则可以拆分到地区维度分析。
平台用户进线咨询:一般分析VOC需要有较强大的客服团队,因为需要客服团队帮忙在系统中记录咨询时就把咨询有个大致的分类,否则想想这些杂乱的数万条数据,分析真的异常困难,或者还需要用到比较强大的文本分析方法。我也尝试用过VOC的数据,像是当某个二级维度还没有设计出来三级维度项时,分析VOC可以帮助梳理某二级维度的体验情况向老板交代问题和提升方向,并将梳理出来三级维度项后续可增加用于调研问卷量表中;又或是某指标某月分数被其他重要指标的提升而带动提升时,从咨询量级的提升趋势可以使业务跳出NPS关注到问题本身。
结合运营指标:一般业务都会有自己的一套运营指标用以监控,但可能未必覆盖到体验相关的指标,容易造成”运营指标一切趋好,但体验分数仍无提升“的情况,所以需要研究者主动去筛选搭建体验运营指标(其可以包括感知评价和交付质量两方面的指标),用于预警每月表现分数的同时。同时需要注意两个点:① 业务一般监控的运营指标多是交付质量上的,如服务履约率、服务时长等等,与用户感知评价相关的会比较少,这可能会造成运营指标都很好,体验分数仍然很差,或需要用研团队主动在购物流程各节点中埋场景化感知调研;② 用户期望的、用户感知的、服务提供者对消费者期望的理解中都会存在gap,而运营指标相对属于服务提供者对消费者起到的理解转化成的具体的服务质量,与NPS分数会存在一定的gap。
了解业务的重要迭代及营销活动:业务的动作经常能影响着用户的体验,例如某个大型红包活动的下线,可能就会导致这个月低于上个月的体验表现。掌握了重要迭代的动作,在分析问题的时候有时间可达到事半功倍的效果。
第五步 问题闭环解决,提升情况持续监测
分析出来原因后,更重要的是需要跟相关团队形成约会、联动机制。一方面,体验问题肯定不可能靠体验团队自身可以去改进的,必须联动运营/产品团队去落实;另一方面,相互碰撞的过程中,可以对问题点的提升改进办法有一定的思考以及达成共识,比自己闭门造方案肯定要强。与业务达成一致意见后,就可以制定跟进列表,明确提升目标和提升时间,按周期进行改进跟踪。
在目前的实践中,我认为比较好的推进技巧有:① 争取领导层的关注,有从上而下的KPI机制,即把二级要素的提升定位到某主责团队 ② 对具体问题定位体验影响范围和业务影响范围,即问题在各渠道的反馈量级趋势、影响用户量级趋势、订单影响量级、目前耗费成本等,用偏商业化的语言推进业务/产品改进;③ 如具体问题业务团队和体验团队对问题认知有冲突,如重要性及优先级上没有统一认知,可以考虑对对应问题专门做个专题分析,分析问题现象、原因及改善建议,邮件抄送责任团队及相关领导,对具体问题进行曝光,看上层对该问题的看法,曾经通过该方式,我解决了一个棘手的运营体验问题:);④ 在体验监测体系得到较完备的建设时,推进线上数字看板的建立,可以整体提升部门同学接触体验数据的时效性,提升部门影响力,另外在推进的体验改进项也可在看板上进行通晒,驱动更快速改进。
按以上方法我们就可以分析出来一些原因并且推进业务改善体验,但是所提出的问题点改善后是否真的对体验得分有提高,这需要下轮调研结果/相关运营指标来验证,所以后续的持续监控也是一个很重要的环节。
如果上次找到的模块低分原因已经在下轮得分中有体现,那么研究方向可以说是比较正确;如果在得分中没有体现出来,则又要再一次去发掘分析,需了解上次改进没提升的原因,以及找到可提升体验得分的真实问题所在。
# 最后:对整个公司来说,体验监测体系在公司层宏观感知及追踪体验水平还是很有必要的,客观合理的调研分析方法是体系的根基,但除此之外,问题的切实提升才是该体系不断发展的养分。对项目同学的分析能力、沟通能力、推动能力等均有一定的锻炼和挑战。