什么是数据挖掘?数字挖掘有哪些流程?

什么是数据挖掘?数字挖掘的概念是什么?数据挖掘一般要经历哪些流程?下面是有关数字挖掘的介绍。

据了解,数据挖掘理论涉及到的面很广,它实际上起源于多个学科,可以简单的理解为从大量数据中提取或挖掘知识或者说是知识发现。

数据挖掘应用了众多领域的思想,包括来自统计学的抽样、估计和假设检验;来自人工智能、模式识别和机器学习的搜索算法、建模技术和学习理论等。

数据挖掘一般经历以下几个流程:

1. 解读需求

绝大多数的数据挖掘工程都是针对具体领域的,因此数据挖掘工作人员不应该沉浸在自己的世界里YY算法模型,而应该多和具体领域的专家交流合作以正确的解读出项目需求。这种合作应当贯穿整个项目生命周期。

2. 搜集数据

在大型公司,数据搜集大都是从其他业务系统数据库提取。很多时候我们是对数据进行抽样,在这种情况下必须理解数据的抽样过程是如何影响取样分布,以确保评估模型环节中用于训练(train)和检验(test)模型的数据来自同一个分布。

什么是数据挖掘?数字挖掘有哪些流程?

3. 预处理数据

预处理数据可主要分为数据准备和数据归约两部分。其中前者包含了缺失值处理、异常值处理、归一化、平整化、时间序列加权等;而后者主要包含维度归约、值归约、以及案例归约。后面两篇博文将分别讲解数据准备和数据归约。

4. 评估模型

确切来说,这一步就是在不同的模型之间做出选择,找到最优模型。很多人认为这一步是数据挖掘的全部,但显然这是以偏概全的,甚至绝大多数情况下这一步耗费的时间和精力在整个流程里是最少的。

5. 解释模型

数据挖掘模型在大多数情况下是用来辅助决策的,人们显然不会根据”黑箱模型”来制定决策。如何针对具体环境对模型做出合理解释也是一项非常重要的任务。

以上就是有关什么是数据挖掘?数字挖掘有哪些流程的介绍。

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。

给TA打赏
共{{data.count}}人
人已打赏
个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索