共享服务中心自2019年11月开始,协助流程与运营部实施NPS[1]“客户之声”体验问题分类模型(以下简称“模型”)建设工作,今年4月,联手研发中心技术及数据大产品团队、数据中心基础平台团队,完成了第二次模型迭代并优化了数据链路。在利用多个非实时渠道客户声音对模型进行效果验证时,发现模型具有“发现客户投诉隐患,将非实时响应转化为实时响应;精准定位客户反馈痛点和热点,将沉默信息转化为有效改进点”的价值,可基于模型建立非实时渠道服务闭环响应机制。特此汇报:
一、模型特点介绍
(一)调整模型架构,提升同类场景泛化能力
前期模型在实际应用中存在客户反馈和采集场景非严格的一一对应[2],以及新增场景[3]初期数据积累不足不能预测识别等问题。为了解决上述问题,此次模型打破迭代前模型和场景一一对应关系,针对NPS全场景客户反馈,对3大类情感8大类116小类业务方向进行分类(详见表1),提升了模型的泛化能力,新建场景亦可利用模型识别出绝大多数问题,后续随着数据积累逐渐提升预测精确度,做到快速察觉用户反馈变化与分类精准预测之间的平衡。在利用另外两个非实时渠道文本数据(用户直通车、上行短信)进行验证时,针对NPS中未涉及的问题(如申请延期缴费、申请延期还款等)会识别错误,且三渠道客户反馈场景和表述风格存在一定差异,指标存在明显低于NPS的情况(详见表2),但模型核心指标也达到基本可用水平。
情感 | 业务大类 | 范围描述 | 业务细类 |
积极 | 正向反馈 | 表达正向情感的意见反馈 | 含方便快捷安全、服务好、品牌信誉好、借款利息低/合理等7小类 |
中性 | 中性反馈 | 没有明显态度或倾向性意见 | 含申请投保、无推荐意愿、第一次使用、无意义、无意见和建议等11小类 |
消极 | 对服务效率不满 | 对于某项具体业务的办理速度有关的不满 | 含借款到账慢、大额到账慢、还款扣款慢、理赔速度慢等8小类, |
对服务柔性不满 | 对于某项具体业务的办理灵活性、办理渠道的多样性有关的不满 | 含借款利息高、借款周期短、还款方式少、借款可借额度低等25小类 | |
对服务场景交互/功能/性能不满 | 对于某些具体业务办理功能的交互/功能/性能有关的不满 | 含还款失败、银行转账变更账号失败、保单复效失败、还款不支持手动输入金额等32小类 | |
对APP平台交互/功能/性能不满 | 和寿险APP平台功能的交互/设计/性能有关的不满 | 含APP不支持截图、不支持指纹识别功能、验证码收不到、安全性能待提高等16小类 | |
对支撑服务不满 | 对业务办理过程以外的有支撑辅助作用的服务 | 含业务员-服务态度不好、人工/柜面-服务不到位、通知-无提醒/结果反馈通知等16小类 | |
对其他方面不满 | 对优化暂不具有明确指导意义的意见建议 | 含不满意1小类 |
表1:情感—业务分类表
实验数据渠道 | 训练集数量 | 验证集数量 | 精确率 | 召回率 | F1值 |
NPS全场景 | 57351 | 10935 | 0.94 | 0.92 | 0.92 |
用户直通车 | 0 | 10655 | 0.83 | 0.80 | 0.71 |
上行短信 | 0 | 10331 | 0.77 | 0.63 | 0.59 |
表2:模型训练结果指标表
(二)增加服务类别标签,明确响应方向
客户反馈中,除了反映业务问题内容之外,客户的语气语调用词,同时反映了客户不同程度的服务响应期待(详见表3)。为了能够在资源有限的情况下,优先处理高价值、服务响应等级高的客户反馈,保证和客户的有效互动,提升客户体验,此次模型迭代增加了服务分类,并将服务按响应等级分为高中低三级,为后续服务响应提供方向。
服务类别 | 定义 | 反馈示例 | 响应期待等级[4] |
投诉 | 表达不满,且具有服务升级的意思表达 | 业务员服务态度差,我要投诉。 我强烈地投诉中国人寿。 | 3 |
申请 | 申请公司的各类服务 | 银行卡丢了,我要换银行卡。 手机号不是我的,能不能更换? | 3 |
咨询 | 表达对于个案业务的疑问,通常有过程描述 | 我的万能账户昨天还有钱,今天怎么没了? 请问您一下这个赔付金额、以保险本金到期后还可以领的吗? | 3 |
疑问 | 表达对于公司端处理的疑问,希望有解释 | 为什么利息涨了? 为啥不能提前还款? | 2 |
建议 | 表达对于未来事情的想法,不掺杂明显负面情绪 | 建议增加指纹识别功能。 希望能够提供电子发票。 | 2 |
吐槽 | 表达对现有业务的不满 | 借款利息太高了 人脸识别又失败。 | 2 |
肯定 | 表达正向情感的意见反馈 | 中国人寿棒! 业务员太好了。 | 1 |
说明 | 阐述对公司提供有关信息的解释,无自发服务诉求 | 我没有朋友,不推荐。 我已存钱,谢谢。 | 1 |
发泄 | 单纯发泄不满,无业务内容,且没有升级意向 | 辣鸡 中国人寿骗子公司 | 1 |
噪音 | 无意义的表述 | 12345666 95519666 | 1 |
表3:服务分类表
(三)对接大数据平台,方便输出调用
重构数据链条,在高斯公共层[5]构建面向应用的数据服务模型,将模型处理后的结构化数据回流至高斯公共层,方便数据看板平台直观展现或其它业务流程调用,提升数据查询效率,实现数据复用,后续新增场景免去数据二次加工[6]。
二、非实时渠道客户声音及服务响应现状分析
非实时交互渠道的客户文字反馈,通常产生在公司向客户的单向通信但被客户反向利用(客户回复公司的下行短信或邮件),或公司设计的线上信息采集渠道(如寿险直通车、和NPS留言),由于这些渠道信息发送者压力相对较小,信息质量相对实时交互渠道有较大差距。用户反馈数据进行模型泛化性验证、解读时发现,非实时交互渠道中也掺杂着很多高价值的信息(如投诉意向和购买意向等)。
(一)非实时渠道客户反馈中,沉淀着大量业务问题和客户服务期待
NPS反馈客户通过问卷点选的方式表达了自己的态度,贬损客户和非贬损客户留言占比分别为4.23%和0.23%,反应了贬损客户更强的表达愿望。利用模型处理四类用户文字反馈发现(详见表4),各渠道都包含大量用户对于产品和服务的问题抱怨反馈,也含有投诉、商机等需要重点响应的服务诉求,高服务机会的信息比例和剔除噪音后的信息长度成正比关系。
态度分类 | 服务分类 | NPS贬损留言 (11个字) | NPS非贬损留言 (7个字) | 用户直通车 (24个字) | 上行短信 (22个字) | ||||
数量 | 占比 | 数量 | 占比 | 数量 | 占比 | 数量 | 占比 | ||
负 | 投诉 | 5 | 0.24% | 0 | 0.00% | 86 | 0.81% | 41 | 0.01% |
负 | 咨询 | 3 | 0.14% | 0 | 0.00% | 1922 | 18.04% | 1492 | 0.32% |
中 | 申请 | 2 | 0.09% | 0 | 0.00% | 1931 | 18.12% | 4165 | 0.88% |
负 | 疑问 | 70 | 3.30% | 2 | 0.06% | 1775 | 16.66% | 1453 | 0.31% |
中 | 建议 | 26 | 1.23% | 137 | 4.20% | 74 | 0.69% | 12 | 0.00% |
负 | 吐槽 | 1382 | 65.19% | 1274 | 39.08% | 4304 | 40.39% | 169000 | 35.76% |
正 | 肯定 | 397 | 18.49% | 1419 | 43.53% | 159 | 1.49% | 79610 | 16.85% |
负 | 发泄 | 10 | 0.47% | 1 | 0.03% | 265 | 2.49% | 2034 | 0.43% |
中 | 说明 | 3 | 0.14% | 0 | 0.00% | 2 | 0.02% | 4 | 0.00% |
中 | 噪音 | 227 | 10.71% | 427 | 13.10% | 137 | 1.29% | 214752 | 45.44% |
总计 | 2120 | 100.00% | 3260 | 100.00% | 10655 | 100.00% | 472563 | 100.00% |
表4:2021年1季度三渠道文本结构表
(二)有关产品和服务的抱怨或完善建议,部分得到有效传递,需要关怀的客户部分获得响应
针对非实时渠道客户留言关于产品或服务的意见建议,其中NPS客户点选和文字反馈,流程与运营部及我中心联手,将业务问题制作数据看板和分析报告,通过看板和报告将有关信息传递至运营管理及产品开发团队,推动体验改善;寿险APP用户直通车客户反馈,目前作为产品优化方向对接工单流程,由产品团队人工筛选出涉及APP平台问题(含交互/功能/性能不满)工单,填写处理意见办结工单,将非平台问题工单转发共享服务中心(运营板块)工单处理人员,填写处理意见办结工单,流程链路较长且占用大量人力,有关信息也未同步其他产品团队。
针对非实时渠道中所承载的客户服务期待,流程与运营部自2021年7月对接第三方启动NPS贬损客户回访安抚工作,按日或周联系全量差评客户,通过联系,0.95%的客户反馈了具体的不满,还发现了联系方式错误的问题,效率相对较低;浙江、深圳等少数分公司对上行短信做筛选、流转处理,针对其中反馈错发件、咨询件、投诉件的,由省公司二线进行差异化响应,避免问题升级,提升信息质量,但是多数公司服务资源消耗较大;用户直通车有关信息当前并没有向客户反馈公司的处理情况,后续计划提供实时响应入口,对于仍选择非实时通道的,对接客户之声数据分析。
三、非实时渠道客户声音服务响应闭环建设方案
非实时渠道客户反馈信息在完善产品和提升体验方面都已进行了有益的尝试,如果能够和模型结合,将会发挥更大效果,建议如下:
(一)扩充用户直通车训练数据,提升模型预测精准率
为更好处理寿险APP用户直通车意见反馈中非实时用户反馈数据,补充数据利用正则规则进行数据标注和人工复检,重新训练模型,提升模型在用户直通车渠道的预测准确度。后续结合需要补充其他渠道数据进行训练。
(二)模型统一对接客户声音生产端,人工切入回访最需关怀客户
模型处理NPS客户留言和寿险APP客户直通留言反馈客户声音,在进行服务和业务分类后,整合大数据中有关信息(客户信息/所属机构/受理场景/最新保单等)对接后续处理流程:投诉类信息触发投诉管理系统投诉处理流程,由省公司投诉处理人员进行处理;申请投保类信息作为销售线索通过国寿e店智能行销平台,推送至该客户的服务经理或最新长险保单销售人员;其他高响应等级的客户反馈,由邮件方式提供对应职能部门;对于其他客户反馈不做回复处理。
(三)定位和传递产品和服务重点问题,跟踪评估效果和解决时效
针对客户反馈中关于产品和服务完善方面的信息,通过模型分类增加渠道、场景等属性标签,数据汇集至客户之声数据看板,及时输出给运营团队和产品团队;属性标签对接体验管理流程,根据属性标签确定主责团队,如人脸识别不好用/麻烦/耗时长等平台问题,交由平台团队、借款到账慢等业务问题,交由对口保全团队;体验管理团队可以根据问题热度和有效性确定问题追踪清单,跟踪问题解决时效,对比评估解决效果。
(四)人工处理同步修正模型分类结果,建立数据闭环
在投诉管理岗或其他人员在接收或处理有关客户反馈时,可以修正客户信息的分类结果,数据服务层采集人工处理环节对模型分类结果的修正意见,大数据平台根据采集的信息进行自动迭代,提升预测精准率。
[1]问卷满意度调查,10分制,7-10分为非贬损,0-6分为贬损。
[2]之前年度的模型体系,模型和埋点场景是一一对应关系,比如借款问题分类模型仅能应用于借款场景。但是通过数据观察发现,借款场景中,会出现有关万能账户提取、银行转账授权等问题的反馈,关于寿险APP平台基础能力问题的反馈会出现在各个场景中,场景和问题并不存在严格的对应关系。
[3]寿险APP渠道在5月份和6月份新增了4个和2个埋点问卷
[4]非权威划分
[5]国产数据库,擅长数据分析处理,亿万级别数据的即时查询处理速度快。
[6]后续新增问卷调查场景的数据,不需要额外进行数据加工处理,源端采集完通过ODS到公共层,可以直接使用。