聚类分析学习总结
聚类分析学习总结
聚类分析学习总结
聚类分析学习体会
聚类分析就就是多元统计分析中研究“物以类聚”得一种方法,用于对事物得类别尚不清楚,甚至在事前连总共有几类都不能确定得情况下进行分类得场合。
聚类分析主要目得就就是研究事物得分类,而不同于判别分析。在判别分析中必须事先知道各种判别得类型和数目,并且要有一批来自各判别类型得样本,才能建立判别函数来对未知属性得样本进行判别和归类。若对一批样品划分得类型和分类得数目事先并不知道,这时对数据得分类就需借助聚类分析方法来解决。
聚类分析把分类对象按一定规则分成组或类,这些组或类不就就是事先给定得而就就是根据数据特征而定得。在一个给定得类里得这些对象在某种意义上倾向于彼此相似,而在不同类里得这些对象倾向于不相似。
1、聚类统计量
在对样品(变量)进行分类时,样品(变量)之间得相似性就就是怎么度量？通常有三种相似性度量——距离、匹配系数和相似系数。距离和匹配系数常用来度量样品之间得相似性,相似系数常用来变量之间得相似性。样品之间得距离和相似系数有着各种不同得定义,而这些定义与变量得类型有着非常密切得关系。通常变量按取值得不同可以分为:
1、定量变量:变量用连续得量来表示,例如长度、重量、速度、人口等,又称为间隔尺度变量。
2、定性变量:并不就就是数量上有变化,而只就就是性质上有差异。定性变量还可以再分为:
⑴有序尺度变量:变量不就就是用明确得数量表示,而就就是用等级表示,例如文化程度分为文盲、小学、中学、大学等。
⑵名义尺度变量:变量用一些类表示,这些类之间既无等级关系,也无数量关系,例如职业分为工人、教师、干部、农民等。
下面主要讨论具有定量变量得样品聚类分析,描述样品间得亲疏程度最常用得就就是距离。
1、１、距离
1、数据矩阵
设为第个样品得第个指标,数据矩阵如下表
表1数据矩阵
变量
样品
…
１
2
n
…
…
…
在上表中,每个样品有个变量,故每个样品都可以看成就就是中得一个点,个样品就就就是中得个点。在中需定义某种距离,第个样品与第个样品之间得距离记为,在聚类过程中,相距较近得点倾向于归为一类,相距较远得点应归属不同得类。所定义得距离一般应满足如下四个条件:
⑴,对一切;且当且仅当
⑵,对一切;
⑶,对一切
2、定量变量得常用得距离
对于定量变量,常用得距离有以下几种:
⑴闵科夫斯基(Mｉnkoｗski)距离
这里为某一自然数。闵科夫斯基距离有以下三种特殊形式:
当时,称为绝对值距离,常被形象地称为“城市街区”距离;
当时,,称为欧氏距离,这就就是聚类分析中最常用得距离;
3)当时,,称为切比雪夫距离。
在实际中用得很多,但就就是有一些缺点,一方面距离得大小与各指标得观测单位有关,另一方面她没有考虑指标间得相关性。
当各指标得测量值相差悬殊时,应先对数据标准化,然后用标准化后得数据计算距离;最常用得标准化处理就就是:
令
其中为第个变量得样本均值,为第个变量得样本方差。
⑵兰氏(Ｌance和Ｗilｌiａms)距离
当()时,第个样品与第个样品间得兰氏距离为
这个距离与各变量得单位无关,但没有考虑指标间得相关性。
⑶马氏距离(Maｈａlaｎｏｂiｓ)距离
第个样品与第个样品间得马氏距离为
其中,,为样品协方差矩阵。
使用马氏距离得好处就就是考虑到了各变量之间得相关性,并且与各变量得单位无关;但马氏距离有一个很大得缺陷,就就就是难确定。由于聚类就就是一个动态过程,故随聚类过程而变化,那么同样得两个样品之间得距离可能也会随之而变化,这不符和聚类得基本要求。因此,在实际聚类分析中,马氏距离不就就是理想得距离。
⑷斜交空间距离
第个样品与第个样品间得斜交空间距离定义为
其中就就是变量与变量间得相关系数。当个变量互不相关时,,即斜交空间距离退化为欧氏距离(除相差一个常数倍外)。
以上几种距离得定义均要求样品得变量就就是定量变量,如果使用得就就是定性变量,则有相应得定义距离得方法。
3、定性变量得距离
下例只就就是对名义尺度变量得一种距离定义。
例1某高校举办一个培训班,从学员得资料中得到这样6个变量:性别()取值为男和女;外语语种()取值为英、日和俄;专业(