首页 > 编程知识 正文

数据质量管理系统,质量检测数据分析

时间:2023-05-05 19:54:18 阅读:276771 作者:4860

目录 数据质量检测完整性一致性准确性及时性

数据质量检测

数据质量是保证数据应用的基础,它的评估标准主要包括四个方面:完整性、一致性、准确性、及时性。评估数据是否达到预期设定的质量要求,就可以通过这四个方面来进行判断。

完整性

完整性指的是数据信息是否存在缺失的状况,数据缺失的情况可能是整个数据记录缺失,也可能是数据中某个字段信息的记录缺失。不完整数据的价值就会大大降低,也是数据质量最为基础的一项评估标准。
数据质量的完整性比较容易去评估,一版可以通过数据统计中的记录值和唯一值进行评估 。例如,网站日志日访问量就是一个记录值,平时的日访问量在1000左右,突然某一天降到100了,需要检查一下数据是否存在缺失了。再例如,网站统计地域分布情况的每一个地区名就是一个唯一值,我国包括了32个省和直辖市,如果统计得到的唯一值小于32,则可以判断数据由可能存在缺失。

一致性

一致性是指数据是否遵循了统一的规范,数据集合是否保持了统一的格式。 数据质量的一致性主要体现在数据记录的规范数据是否符合逻辑。规范指的是,一项数据存在它特定的格式,例如手机号码一定是11位的数字,IP地址一定是由4个0到255间的数字加上.组成的。逻辑指的是,多项数据间存在着固定的逻辑关系,例如PV(页面点击量)一定是大于等于UV(唯一访问量,一个用户多次打开同一个页面,只记录唯一)的,跳出率(从网站某个页面离开所占的百分比)一定是在0到1之间的。

准确性

准确性是指数据记录的信息是否存在异常或错误。 存在准确性问题的数据不仅仅只是规则上的不一致。最为常见的数据准确性错误如乱码。其次,异常的大或者小的数据也是不符合条件的数据。数据质量的准确性可能存在于个别记录,也可能存在于整个数据集,例如数量级记录错误。这类错误则可以使用最大值和最小值的统计量去审核。
一般数据都符合正态分布的规律,如果一些占比少的数据存在问题,则可以通过比较其他数量少的数据比例,来作出判断。

及时性

及时性是指数据从产生到可以查看的时间间隔,也叫数据的延时时长。 及时性对于数据分析本身要求并不高,但如果数据分析周期加上数据建立的时间过长,就可能导致分析得出的结论失去了借鉴意义。

版权声明:该文观点仅代表作者本人。处理文章:请发送邮件至 三1五14八八95#扣扣.com 举报,一经查实,本站将立刻删除。