首页 > 学习笔记 > 数据挖掘和分析的过程及常用概念
2017
06-23

数据挖掘和分析的过程及常用概念

一、数据挖掘和分析的过程

1.信息采集->根据确定的数据分析对象抽象出在数据分析中所需要的特征信息,然后选择合适的信息收集方法,将收集到的信息存入数据库。对于海量数据,选择一个合适的数据存储和管理的数据仓库是至关重要的。

2.信息数据预处理->信息的集成、规范、清理、变换等,根据当前信息的特点经行预处理,变换成适用的数据信息。

3数据挖掘和分析->根据数据仓库中的数据信息,选择合适的分析工具,应用统计方法、事例推理、决策树、规则推理、模糊集、甚至神经网络、遗传算法的方法处理信息,得出有用的分析信息。

4.结果已可视化的形式表现,并进行评估等各种工作。

二、常用概念

  • 聚类

    所谓聚类,就是类或簇(Cluster)的聚合,而类是一个数据对象的集合。 和分类一样,聚类的目的也是把所有的对象分成不同的群组,但和分类算法的最大的不同在于采用聚类算法划分之前我们并不知道要把数据分成几组,也不知道依赖哪些变量来划分。
    聚类有时也称分段,是指将具有相同特征的人归结为一组,将特征平均,以形成一个“特征矢量”或“矢心”。聚类系统通常能够把相似的对象通过静态分类的方法分成不同的组别或者更多的子集(subset),这样让在同一个子集中的成员对象都有相似的一些属性。聚类被一些提供商用来直接提供不同访客群组或者客户群组特征的报告。聚类算法是数据挖掘的核心技术之一,而除了本身的算法应用之外,聚类分析也可以作为数据挖掘算法中其他分析算法的一个预处理步骤。

数据挖掘和分析的过程及常用概念 - 第1张  | 一只学霸



    图中的 Cluster1 和 Cluster2 分别代表聚类算法计算出的两类样本。打“+”号的是 Cluster1,而打“o”标记的是Cluster2。 在商业上,聚类可以帮助市场分析人员从消费者数据库中区分出不同的消费群体来,并且概括出每一类消费者的消费模式或者消费习惯。它作为数据挖掘中的一个模块,可以作为一个单独的工具以发现数据库中分布的一些深层次的信息,或者把注意力放在某一个特定的类上以作进一步的分析并概括出每一类数据的特点。
    聚类分析的算法可以分为划分法(Partitioning Methods)、层次法(Hierarchical Methods)、基于密度的方法(density-based methods)、基于网格的方法(grid-based methods)和基于模型的方法(Model-Based Methods)等。
    比如,下面几个场景是比较适合应用聚类算法,同时又有相应的商业应用:
哪些特定症状的聚集可能预示什么特定的疾病
● 租同一类型车的是哪一类客户
● 网络游戏上增加什么样的功能可以吸引哪些人来
● 哪些客户是我们想要长期保留的客户
    聚类算法除了本身的应用之外还可以作为其他数据挖掘方法的补充,比如聚类算法可以用在数据挖掘的第一步,因为不同聚类中的个体相似度可能差别比较大。例如,”哪一种类的促销对客户响应最好?”对于这一类问题,首先对整个客户做聚集,将客户分组在各自的聚集里,然后对每个不同的聚集,再通过其他数据挖掘算法来分析,效果会更好。

  • 估测和预测

    估测(Estimation)和预测(Prediction)是数据挖掘比较常用的应用。估测应用是用来猜测现在的未知值,而预测应用是预测未来的某一个未知值。估测和预测在很多时候可以使用同样的算法。估测通常用来为一个存在但是未知的数值填空,而预测的数值对象发生在将来,往往目前并不存在。
    举例来说,如果我们不知道某人的收入,可以通过与收入密切相关的量来估测,然后找到具有类似特征的其他人,利用他们的收入来估测未知者的收入和信用值。还是以某人的未来收入为例来谈预测,我们可以根据历史数据来分析收入和各种变量的关系以及时间序列的变化,从而预测她在未来某个时间点的具体收入会是多少。
    估测和预测在很多时候也可以连起来应用。比如我们可以根据购买模式来估测一个家庭的孩子个数和家庭人口结构;或者根据购买模式,估测一个家庭的收入,然后预测这个家庭将来最需要的产品和数量,以及需要这些产品的时间点。
对于估测和预测所做的数据分析可以称作预测分析(Predictive Analysis),而因为应用非常普遍,现在预测分析被不少商业客户和数据挖掘行业的从业人员当作数据挖掘的同义词。我们在数据分析中经常听到的回归分析(Regression Analysis)就是经常被用来做估测和预测的分析方法。所谓回归分析,或者简称回归,指的是预测多个变量之间相互关系的技术,而这门技术在数据挖掘中的应用是非常广泛的。

  • 决策树

    决策树本质上是导致做出某项决策的问题或数据点的流程图。比如购买汽车的决策树可以从是否需要 2012 年的新型汽车开始,接着询问所需车型,然后询问用户需要动力型车还是经济型车等等,直到确定用户所需要的最好的车为止。决策树系统设法创建最优路径,将问题排序,这样,经过最少的步骤,便可以做出决定。
    据统计,在 2012 年,被数据挖掘业者使用频率最高的三类算法是决策树,回归和聚类分析。而且因为决策树的直观性,几乎所有的数据挖掘的专业书籍都是从某一个决策树算法开始讲起的:ID3/C4.5/C5.0, CART, QUEST, CHAID 等等。
    有些决策树做的很精细,用到了数据大部分的属性,这时,我们可能闯入了一个误区,因为在决策树算法上我们需要避免的一个问题是把决策树构建得过大,过于复杂。过于复杂的决策树往往会过度拟合(over-fitting),不稳定,而且有时候无法诠释。这时我们可以把一棵大的决策树分解成多棵较小的决策树来解决这一问题。
    我们来看一个商用的决策树实例。图中展示的是用 IBM SPSS Modeler 数据挖掘软件构建的一棵决策树,是美国商业银行用以判断客户的信用等级的决策树模型。



数据挖掘和分析的过程及常用概念 - 第2张  | 一只学霸



    根据收入,信用卡数量和年龄构建的决策树,并以 80%的准确率作为划分的阈值。第一个分支查的是收入,设立了两个关键数据分隔点,按照收入把人群先划分成 3 组:低收入的,中等收入的和高收入的。其中低收入的节点直接变成叶子节点,这组人中 82.0976%的人的信用等级是差的(Bad),而且信用卡个数或者年龄对信用等级的分类没有帮助。决策树的第二层判断是根据已经拥有的信用卡个数。以此作为判断,高收入人群可以再做划分。
    其中拥有卡个数在 5 个或以上的,82.4176%信用等级是优质的(Good);而拥有卡的数量在5 张以下的,高达 96.8944%的人信用等级是优质的。因为这棵树一共有 6 个叶子节点,所以我们最终划分出 6 组人群,其中有一组信用等级为优质的人群占比 56.3147%,所以是无法判断的。其中在数据上表现最好的就是高收入而信用卡个数在 5 张以下的人,把他们判断为优质信用等级有96.8944%的准确率。
    如果我们手里还有别的数据,比如是否有房有车,是否结婚等,那么通过测试,可以进一步提高这棵决策树的精度。

最后编辑:
作者:admin
这个作者貌似有点懒,什么都没有留下。

留下一个回复

你的email不会被公开。