博客 发现数据异常波动怎么办?别慌,指标监控和归因分析来帮你

发现数据异常波动怎么办?别慌,指标监控和归因分析来帮你

   数栈君   发表于 2024-03-28 10:12  188  0

企业搭建完善、全面的指标体系是企业用数据指导业务经营决策的第一步。但是做完指标之后,对指标的监控,经常被大家忽视。当指标发生了异常波动(上升或下降),需要企业能够及时发现,并快速找到背后真实的原因,才能针对性地制定相应策略,否则就是盲打,原地打转。


指标异常波动的具体场景,比如:

· 企业关键词的搜索流量突然降低了,是什么原因?

· 3月的GMV数字比2月下降了40%,应该如何分析?

· 最近某个品类的订单数猛增,为什么?


那么,本文将详细介绍如何建立完善的指标异常监控及其对应归因分析机制,让大家今后在遇到此类问题时,能够快速从数据中发现业务问题与机会,提升业务推进速度。


基于统计分析检测指标异常


企业的日常数据走势会在一定范围内上下浮动,但不同的指标其浮动范围会有差异。当业务在高速增长期,指标每日波动幅度较大;业务在平稳期,指标每日波动幅度则较小;统计粒度越粗,数据量越大,统计结果的波动性也越小。因此,对于不同的指标需要用不同的标准去衡量指标波动是否存在异常。


指标异常监控方法主要有三种:

· 基于实际业务经验进行阈值设置

· 基于数据结果进行统计分析

· 融入算法进行建模预测


本文将主要介绍如何基于统计分析方法来评估指标波动是否异常。


统计学中,指标的数据分布通常满足正态分布。正态分布具有对称性,会用到均值、标准差两个数据。其中均值可以反应数据的平均水平,标准差可以反应数据波动幅度,标准差越大, 反映出数据波动性越大。标准差的计算公式如下:

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user1/article/66c126c236172871cd2a98c581fc2db7..jpg


利用数据在正态分布中的位置可以判断指标波动是否符合预期。在正态分布中,数据分布在2倍标准差内的概率是95.5%,在3倍标准差的概率内是99.7%。日常可以使用2倍标准差作为衡量标准。


正常数据结果会在 均值±2* 标准差范围内浮动,若实际数据超出了这个范围,则认为本次数据波动异常。


日常数据波动规律会以日、周、月、年为单位出现相同或相似的变化规律,此处以日活指标为例,来说明指标异常波动的监测过程。


某游戏类APP日活指标通常以周为单位进行数据波动,现计划基于过去五周的数据走势来判断本周一的日活数据是否出现异常波动。


数据准备如下:

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user1/article/90adf5ae604a37affd5ac14f0aa29214..jpg


上述数据的前五周周一的均值:10900,标准差:1507,数据的2倍标准差分别为7887、13913,本周周一数据为7700,在2倍标准差范围外,则说明本周一日活指标数据波动异常,需要进一步分析异常波动原因,以判断业务是否真正存在异常。


指标异动归因分析


指标异动归因方法有很多,总结起来可以分为两大类:横向归因分析和纵向归因分析。


横向归因分析

横向归因分析,指的是对于组合型的指标可以对过程指标做拆分,分析每个过程指标的波动影响因素,再对多个影响因素做整合分析。


如:昨日的付费金额显著增高。分析增高原因时,先对付费金额做工时拆解:付费金额 = 日活 * 平均付费金额,平均付费金额在正常范围内波动,日活显著增加,进一步对相关业务做分析,发现是昨日买量增加带来的结果影响。


纵向归因分析

纵向归因分析,即对指标通过维度下钻进行归因分析。维度下钻分析主要包括两个分析粒度:一是分析各维度对指标的贡献程度,二是分析维度值对指标的贡献程度。


维度的贡献程度计算可基于每个维度值的贡献程度汇总得出,而每个维度值的贡献程度计算有多种计算方式,贡献程度的计算可以基于预测算法等多种方法进行。本文介绍一个简单的基于增长率平均值计算贡献程度的方法。


单一维度下,每个维度值贡献程度可通过下列公式计算:

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user1/article/1b359983c9c015bfc923705d577ba76e..jpg


下面,以销售额为例,介绍一下计算过程。


某产品线1月1日和1月2日销售额分别为3097万元、3300万元。细分到城市维度,每个城市两天的数据表现如下:

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user1/article/1aa4f65c00dc59cd9dc8b70784b09111..jpg


城市维度中:

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user1/article/6279c36b68bf481a14a4285d2f7775e5..jpg


基于上述步骤即可简单地实现维度贡献度及维度值贡献度的计算。


智能指标波动监测&智能归因分析


在实际的数据场景中,每个维度下维度值的数量少说几十上百个,多则成千上万个,每天纯手动计算维度贡献程度将是一个巨大的工作量。分析效率过于低下,导致业务方很容易根据经验进行结论推断,如果推断错误,将很有可能产生错误决策。


袋鼠云指标平台的智能指标波动监测与智能归因分析功能可以快速、全面的帮助用户追踪业务表现,从而进一步推动业务发展。


指标看板查看

对于企业关注的指标,可以将指标添加到关注看板中进行日常数据观察与监控。在看板中可直观查看所有指标的当前数据表现、近期数据走势。系统会根据当前数据做智能诊断,判断指标波动是否为正常波动,帮助用户快速定位异常数据,针对性分析与应对数据变化。

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user1/article/cc158dbb9afd3a0b2225afef6b4f4113..jpg


指标归因分析

当一个指标结果出现异常时,如果依次对维度、维度值进行归因分析是一件工作量很大的事情。能够将分析方法、分析过程系统化,会大大提升归因分析效率,对业务发展形成极为正向的促进作用。

http://dtstack-static.oss-cn-hangzhou.aliyuncs.com/2021bbs/files_user1/article/722e53b7b541dc9347e330f184bfdb93..jpg


对执行指标归因分析时,系统会区分维度值计算指标波动情况,进一步计算出维度贡献度,并根据贡献度大小进行降序排序,让用户聚焦于头部更重要的影响因素。


在关注的维度下,用户可以进一步查看细分维度值的贡献度,快速发现数据变化原因,通过数据推动业务提升。




《行业指标体系白皮书》下载地址:https://www.dtstack.com/resources/1057/?src=bbs

《数据治理行业实践白皮书》下载地址:https://www.dtstack.com/resources/1001/?src=bbs

《数栈V6.0产品白皮书》下载地址:https://www.dtstack.com/resources/1004/?src=bbs

想了解或咨询更多有关袋鼠云大数据产品、行业解决方案、客户案例的朋友,浏览袋鼠云官网:https://www.dtstack.com/?src=bbs

同时,欢迎对大数据开源项目有兴趣的同学加入「袋鼠云开源框架钉钉技术群」,交流最新开源技术信息,群号码:30537511,项目地址:https://github.com/DTStack   

0条评论
社区公告
  • 大数据领域最专业的产品&技术交流社区,专注于探讨与分享大数据领域有趣又火热的信息,专业又专注的数据人园地

最新活动更多
微信扫码获取数字化转型资料
钉钉扫码加入技术交流群