(完整版)matlab实现Kmeans聚类算法 联系客服

发布时间 : 星期一 文章(完整版)matlab实现Kmeans聚类算法更新完毕开始阅读c2e2c2ebe3bd960590c69ec3d5bbfd0a7956d584

范围内所有点的均值,做为心的中心点new_center(i).

如果重新计算的中心点new_center(i)与原来的中心点center(i)的距离大于一定的阈值(该阈值可以设定),那么认为算法尚未收敛,使用new_center(i)代替center(i)(如图,中心点从红色点转移到绿色点),转步骤3;否则,认为算法已经收敛,则new_center(i)就是最终的中心点。

现在,所有的中心都不再移动,即算法已经收敛。当然,也许这些中心点还没有达到你要的精度,由于计算这些中心点的准确性,会受初始中心点设置的影响。所以,如果初始中心设置的很糟糕,那么得出来的结果也会不理想。

可以从K=1开始,并且k值不断的增加,通常,随着k的增加,类中的方差会急剧的下降,当k达到一定大的时候,方差的下降会明显减慢(至于慢道何种程度,可以设阈值),此时,就选取到了最佳的k值。

如果初始值没设置好,肯定也不能获得理想的聚类效果。 针对这种情况,这里提供两种方法:

随机的选取多组中心点,在每一组中心点上,都把kmeans算法运行一次。最后,在选取类间方差最小的一组。

通过设定的选初始值方法(这里提供一种,当然自己也可以去构想其他的方法)

1.在数据集上随机选择一个点,做为第一个中心点;

2:在数据集上,选取离第一个中心点最远的一个点做为第二个中

心点。

3:在数据集上,选取离第一个和第二个中心最远的点,做为第三个中心。

4:依此计算后续的中心点

2. 数据来源描述

本次数据挖掘实验的数据源来自加州大学计算机与信息院,是用于合成控制图时间序列聚类分析的一组数据。数据集中一共包含600组数据,每一组数据都有60个分量,也就是数据是60维的。数据一共可以分成6个聚类,分别是:

1-100 Normal (正常) 101-200 Cyclic (循环)

201-300 Increasing trend (增加趋势) 301-400 Decreasing trend (减少趋势) 401-500 Upward shift (上升变化) 501-600 Downward shift (下降变化)

3. 数据预处理

由于本数据集的数据维数较多,所以本实验采用了结构体来存储60维的数据,并使用指针来进行对数据的操作,以提高速度。在数据预处理过程中,首先将数据从data文件中读出,后依次存入结构体数组dataset[600]中。 4. k-means聚类算法

k-means 算法接受参数 k ;然后将事先输入的n个数据对象

划分为 k个聚类以便使得所获得的聚类满足:同一聚类中的对象相似度较高;而不同聚类中的对象相似度较小。聚类相似度是利用各聚类中对象的均值所获得一个“中心对象”(引力中心)来进行计算的。

K-means算法是最为经典的基于划分的聚类方法,是十大经典数据挖掘算法之一。K-means算法的基本思想是:以空间中k个点为中心进行聚类,对最靠近他们的对象归类。通过迭代的方法,逐次更新各聚类中心的值,直至得到最好的聚类结果。 (1)算法思路:

首先从n个数据对象任意选择 k 个对象作为初始聚类中心;而对于所剩下其它对象,则根据它们与这些聚类中心的相似度(距离),分别将它们分配给与其最相似的(聚类中心所代表的)聚类;然 后再计算每个所获新聚类的聚类中心(该聚类中所有对象的均值);不断重复这一过程直到标准测度函数开始收敛为止。一般都采用均方差作为标准测度函数. k个聚类具有以下特点:各聚类本身尽可能的紧凑,而各聚类之间尽可能的分开。

该算法的最大优势在于简洁和快速。算法的关键在于初始中心的选择和距离公式。 (2)算法步骤:

step.1---初始化距离K个聚类的质心(随机产生)

step.2---计算所有数据样本与每个质心的欧氏距离,将数据样本加入与其欧氏距离最短的那个质心的簇中(记录其数据样本的编号)

step.3---计算现在每个簇的质心,进行更新,判断新质心是否与原质心相等,若相等,则迭代结束,若不相等,回到step2继续迭代。

Matlab代码:

function km(k,A)%函数名里不要出现“-”

X = [randn(100,2).*100;...

randn(100,2).*200;randn(100,2).*300;...

randn(100,2).*400;randn(100,2).*500;randn(100,2).*600]; opts = statset('Display','final');

[idx,ctrs]=kmeans(X,6,...

'Distance','city',... 'Replicates',5,... 'Options',opts);

plot(X(idx==1,1),X(idx==1,2),'r.','MarkerSize',12) hold on

plot(X(idx==2,1),X(idx==2,2),'b.','MarkerSize',12) hold on

plot(X(idx==3,1),X(idx==3,2),'m.','MarkerSize',12) hold on

plot(X(idx==4,1),X(idx==4,2),'g.','MarkerSize',12) hold on

plot(X(idx==5,1),X(idx==5,2),'k.','MarkerSize',12) hold on

plot(X(idx==6,1),X(idx==6,2),'c.','MarkerSize',12) title('{\\bf Kmeans聚类算法图像}' )

plot(ctrs(:,1),ctrs(:,2),'kx', 'MarkerSize',12,'LineWidth',2) plot(ctrs(:,1),ctrs(:,2),'ko','MarkerSize',12,'LineWidth',2) plot(ctrs(:,1),ctrs(:,2),'kx', 'MarkerSize',12,'LineWidth',2) plot(ctrs(:,1),ctrs(:,2),'kx', 'MarkerSize',12,'LineWidth',2)

plot(ctrs(:,1),ctrs(:,2),'kx', 'MarkerSize',12,'LineWidth',2) plot(ctrs(:,1),ctrs(:,2),'kx', 'MarkerSize',12,'LineWidth',2)