数据挖掘技术及其应用现状

近十几年,随着科学技术飞速的发展,经济和社会都取得了极大的进步,与此同时,在各个领域产生了大量的数据,如人类对太空的探索,银行每天的巨额交易数据。显然在这些数据中丰富的信息,如何处理这些数据得到有益的信息,人们进行了有益的探索。计算机技术的迅速发展使得处理数据成为可能,这就推动了数据库技术的极大发展,但是面对不断增加如潮水般的数据,人们不再满足于数据库的查询功能,提出了深层次问题:能不能从数据中提取信息或者知识为决策服务。就数据库技术而言已经显得无能为力了,同样,传统的统计技术也面临了极大的挑战。这就急需有新的方法来处理这些海量般的数据。于是,人们结合统计学、数据库、机器学习等技术,提出数据挖掘来解决这一难题。

  数据挖掘的含义和作用

  数据挖掘的历史虽然较短,但从20世纪90年代以来,它的发展速度很快,加之它是多学科综合的产物,目前还没有一个完整的定义,人们提出了多种数据挖掘的定义,例如:

  SAS研究所(1997):“在大量相关数据基础之上进行数据探索和建立相关模型的先进方法”。

  Bhavani(1999):“使用模式识别技术、统计和数学技术,在大量的数据中发现有意义的新关系、模式和趋势的过程”。

数据挖掘实验室



  Hand et al(2000):“数据挖掘就是在大型数据库中寻找有意义、有价值信息的过程”。

  我们认为:数据挖掘就是从海量的数据中挖掘出可能有潜在价值的信息的技术。这些信息是可能有潜在价值的,支持决策,可以为企业带来利益,或者为科学研究寻找突破口。

  现今资料流通量之巨大已到了令人咂舌地步,就实际限制而言,便遇到了诸如巨量的纪录,高维的资料增加的传统分析技术上的困难,搜集到的资料仅有5%至10%用来分析,以及资料搜集过程中并不探讨特性等问题,这就让我们不得不利用Data Mining技术。

  数据挖掘综合了各个学科技术,有很多的功能,当前的主要功能如下:

  1. 分类:按照分析对象的属性、特征,建立不同的组类来描述事物。例如:银行部门根据以前的数据将客户分成了不同的类别,现在就可以根据这些来区分新申请贷款的客户,以采取相应的贷款方案。

  2. 聚类:识别出分析对内在的规则,按照这些规则把对象分成若干类。例如:将申请人分为高度风险申请者,中度风险申请者,低度风险申请者。

  3. 关联规则和序列模式的发现:关联是某种事物发生时其他事物会发生的这样一种联系。例如:每天购买啤酒的人也有可能购买香烟,比重有多大,可以通过关联的支持度和可信度来描述。与关联不同,序列是一种纵向的联系。例如:今天银行调整利率,明天股市的变化。

  4. 预测:把握分析对象发展的规律,对未来的趋势做出预见。例如:对未来经济发展的判断。

  5. 偏差的检测:对分析对象的少数的、极端的特例的描述,揭示内在的原因。例如:在银行的100万笔交易中有500例的欺诈行为,银行为了稳健经营,就要发现这500例的内在因素,减小以后经营的风险。

  需要注意的是:数据挖掘的各项功能不是独立存在的,在数据挖掘中互相联系,发挥作用。

  数据挖掘的方法及工具

  作为一门处理数据的新兴技术,数据挖掘有许多的新特征。首先,数据挖掘面对的是海量的数据,这也是数据挖掘产生的原因。其次,数据可能是不完全的、有噪声的、随机的,有复杂的数据结构,维数大。最后,数据挖掘是许多学科的交叉,运用了统计学,计算机,数学等学科的技术。以下是常见和应用最广泛的算法和模型:

  (1) 传统统计方法:① 抽样技术:我们面对的是大量的数据,对所有的数据进行分析是不可能的也是没有必要的,就要在理论的指导下进行合理的抽样。② 多元统计分析:因子分析,聚类分析等。③ 统计预测方法,如回归分析,时间序列分析等。

  (2) 可视化技术:用图表等方式把数据特征用直观地表述出来,如直方图等,这其中运用的许多描述统计的方法。可视化技术面对的一个难题是高维数据的可视化。 数据挖掘论坛

  (3) 决策树:利用一系列规则划分,建立树状图,可用于分类和预测。常用的算法有CART、CHAID、ID3、C4.5、C5.0等。

  (4) 神经网络:模拟人的神经元功能,经过输入层,隐藏层,输出层等,对数据进行调整,计算,最后得到结果,用于分类和回归。

  (5) 遗传算法:基于自然进化理论,模拟基因联合、突变、选择等过程的一种优化技术。

  (6) 关联规则挖掘算法:关联规则是描述数据之间存在关系的规则,形式为“A1∧A2∧…An→B1∧B2∧…Bn”。一般分为两个步骤:① 求出大数据项集。② 用大数据项集产生关联规则。

  除了上述的常用方法外,还有粗集方法,模糊集合方法,Bayesian Belief Netords ,最邻近算法(k-nearest neighbors method(kNN))等。

  由于数据挖掘一开始就是面向应用的,是为决策服务,而决策者又不一定具备太多的技术的知识,现许多公司和研究机构开发了一系列的工具用于数据挖掘,见表1

  表1 常用数据挖掘工具及其比较

 公司名

产品名

数据挖掘研究院

NN

数据挖掘实验室

DT 数据挖掘工具

B

kM

kNN 数据挖掘论坛

S 数据挖掘实验室

Pred

TS

数据挖掘交友

C

数据挖掘研究院

A

数据挖掘实验室

W32

数据挖掘工具

U

P

A-S

SQL 数据挖掘论坛

Angoss International Ltd. 数据挖掘实验室

 

数据挖掘实验室

KnowledgeSEEKER 数据挖掘实验室

  数据挖掘论坛

Yes

 

数据挖掘交友

  数据挖掘工具

  数据挖掘实验室

 

数据挖掘论坛

Yes

  数据挖掘实验室

 

 

Yes

Yes

数据挖掘论坛

Yes

数据挖掘实验室

 

数据挖掘实验室

 

数据挖掘实验室

Knowledge 数据挖掘实验室

STUDIO

数据挖掘论坛

Yes 数据挖掘研究院

Yes

  数据挖掘交友

Yes 数据挖掘研究院

  数据挖掘研究院

 

Yes 数据挖掘工具

  数据挖掘论坛

Yes 数据挖掘实验室

  数据挖掘研究院

Yes

Yes

数据挖掘交友

Yes

Yes

Yes

数据挖掘研究院

Business Objects 数据挖掘论坛

Business

Miner 数据挖掘研究院

  数据挖掘交友

Yes 数据挖掘交友

 

数据挖掘论坛

 

 

  数据挖掘实验室

  数据挖掘交友

  数据挖掘实验室

 

数据挖掘实验室

  数据挖掘实验室

Yes 数据挖掘交友

  数据挖掘实验室

  数据挖掘工具

  数据挖掘交友

 

Cognos Incorporated  数据挖掘论坛

4Thought

数据挖掘工具

Yes

数据挖掘工具

  数据挖掘交友

  数据挖掘工具

  数据挖掘交友

 

数据挖掘论坛

 

Yes 数据挖掘研究院

Yes 数据挖掘实验室

 

数据挖掘实验室

 

数据挖掘实验室

Yes 数据挖掘论坛

 

  数据挖掘交友

 

 

数据挖掘工具

Scenario 数据挖掘研究院

  数据挖掘研究院

Yes

 

数据挖掘交友

 

[数据挖掘专家] [数据挖掘研究院] [数据挖掘论坛] [数据挖掘实验室]
上一篇:数据挖掘语言浅析
下一篇:计算机领域硕士研究生如何进行研究与论文工作
最新评论共有 0 位网友发表了评论 , 查看所有评论
发表评论( 不能超过250字,需审核,请自觉遵守互联网相关政策法规。 )
匿名?
数据挖掘网站导航 数据挖掘论坛导航
  • 数据挖掘工具
  • 数据挖掘论坛
  • DataCruncher - Cognos
  • MineSet - MathSoft
  • Intelligent Miner - GainSmarts
  • Sqlserver - SAS - Clementine
  • CART - Weka - WizSoft
  • NeuroShell - ModelQuest
  • data mining tools - Darwin
  • 数据挖掘交友
  • 数据挖掘博客
  • 数据挖掘工具
  • 数据挖掘资源
  • 数据挖掘技术算法
  • 数据挖掘相关期刊、会议
  • 研究院联盟合作专区
  • 数据挖掘基础与相关技术
  • 数据挖掘厂商与就业
  • 数据挖掘研究者乐园
  • 知名厂商数据挖掘工具资料
  • 国内数据挖掘实验室
  • Foreign Data Mining Lab
  • 热点关注
  • :::数据挖掘未来研究方向:::
  • :::数据挖掘常用技术:::
  • :::数据挖掘研究内容和本质:::
  • :::数据挖掘的功能:::
  • 数据挖掘测试数据集大全
  • :::数据挖掘的研究历史和现状:::
  • Making the Most of Operational Analytics
  • 近期与数据挖掘相关的一些重要会议的截止日
  • :::数据挖掘热点:::
  • 韩家炜的论文下载
  • 论坛最新话题
  • Foundations of Statistical Natural Langu
  • Game Theory meet Data Mining: A Recent P
  • System Building: How does it help or hin
  • 数据挖掘与Clementine培训
  • 新手报到
  • 求 SASEM 客户流失预测分析
  • 数据挖掘工程师/搜索研究院—北京——无线
  • 数据挖掘入门介绍(如何着手数据挖掘)
  • Information Overload Survey Results
  • The INEX 2005 Workshop on Element Retrie
  • 相关资讯
  • 从影响圈到关注圈,从数据挖掘到价值挖掘
  • SAS Updates BI Products
  • Call for Papers & Invited Session Propos
  • IEEE Intelligent Systems Special Issue
  • 近期与数据挖掘相关的一些重要会议的截止日
  • Data mining program near rock bottom
  • IDC Names Oracle as Leader in Data Wareh
  • Characterizing the Function Space for Ba
  • German scientists develop software to re
  • deviantART.com Web Application Software
  • 数据挖掘实验室资料
  • 数据挖掘博客地址
  • 数据挖掘实验室网站地址
  • Prepare for Medicare audits by using dat
  • 注册成为SAS用户与爱好者俱乐部会员
  • 水南梅
  • 明日烟
  • 新人报道
  • 下载
  • 厦门服务器托管,450元/月—0592-5177319 高
  • 买空间送域名--0592-5177319 高静