DBSCAN(Density-Based Spatial Clustering of Applications with Noise)是一种基于密度的聚类算法,簇集的划定完全由样本的聚集程度决定。聚集程度不足以构成簇落的那些样本视为噪声点,因此DBSCAN聚类的方式也可以用于异常点的检测。
二、算法原理1.基本原理算法的关键在于样本的‘聚集程度’,这个程度的刻画可以由聚集半径和最小聚集数两个参数来描述。如果一个样本聚集半径领域内的样本数达到了最小聚集数,那么它所在区域就是密集的,就可以围绕该样本生成簇落,这样的样本被称为核心点。如果一个样本在某个核心点的聚集半径领域内,但其本身又不是核心点,则被称为边界点;既不是核心点也不是边界点的样本即为噪声点。其中,最小聚集数通常由经验指定,一般是数据维数+1或者数据维数的2倍。
(资料图片仅供参考)
通俗地讲,核心点就是构成一个簇落的核心成员;边界点就是构成一个簇落的非核心成员,它们分布于簇落的边界区域;噪声点是无法归属在任何一个簇集的游离的异常样本。如图所示。
对于聚成的簇集,这里有三个相关的概念:密度直达,密度可达,密度相连。
密度直达:对一个核心点p,它的聚集半径领域内的有点q,那么称p到q密度直达。密度直达不具有对称性。
密度可达:有核心点p1,p2,…,pn,非核心点q,如果pi到pi+1(i=1,2,…,n-1)是密度直达的,pn到q是密度直达的,那么称核心点pi(i=1,2,…,n)到其他的点是密度可达的。密度可达不具有对称性。
密度相连:如果有核心点P,到两个点A和B都密度可达,那么称A和B密度相连。密度相连具有对称性。
简单地讲,核心点到其半径邻域内的点是密度直达的;核心点到其同簇集内的点是密度可达的;同一个簇集里的成员间是密度相连的。
由定义易知,密度直达一定密度可达,密度可达一定密度相连。密度相连就是对聚成的一个簇集最直接的描述。
2.算法描述输入:样本集D,聚集半径r,最小聚集数MinPts;输出:簇集C1,C2,…,Cn,噪声集O.根据样本聚集程度,传播式地划定聚类簇,并将不属于任何一个簇的样本划入噪声集合。
(1)随机搜寻一个核心点p,
S1.从样本集D中随机选择一个未归入任何集合的且未被标记的样本对象pS2.计算p的r邻域大小\(\left| N_r(p) \right|\)若\(\left| N_r(p) \right|\geq MinPts\) ,则标记为核心点;否则,标记为非核心点,并选择其他的点进行判别.S3.重复上面的步骤,直至找到一个核心点;若未找到,将未归集的样本划入噪声集O.
(2)在核心点p处建立簇C,将r邻域内所有的点加入簇C.
(3)对邻域内所有未被标记的点迭代式进行考察,扩展簇集.
若一个邻域点q为核心点,则将它领域内未归入集合的点加入簇C中.
(4)重复以上步骤,直至所有样本划入了指定集合;
(5)输出簇集C1,C2,…,Cn和噪声集合O。
3.优缺点优势:1.可以发现任意形状的簇,适用于非凸数据集; 2.可以进行异常检测; 3.不需要指定簇数,根据样本的密集程度适应性地聚集。
不足:1.当样本集密度不均匀,不同簇中的平均密度相差较大时,效果较差; 2.聚集半径和最小聚集数两个参数需人工指定。
三、示例假设二维空间中有下列样本,坐标为
由DBSCAN算法完成聚类操作。
过程演算:由经验指定参数聚集半径r=2,最小聚集数MinPts=3。
(1)随机搜寻一个核心点,若不存在,返回噪声集合。 考察点(1,2),它到各点的距离分别为
在它的r邻域内,包括了自身在内的共三个样本点,达到了MinPts数,因此(1,2)为核心点。
(2)在核心点(1,2)处建立簇C1,原始簇成员为r邻域内样本:(1,2)、(1,3)、(2,2)。
(3)对簇落C1成员迭代式进行考察,扩展簇集。 先考察(1,3),它到各点的距离分别为
在它的r邻域内,包括了自身在内的共三个样本点,达到了MinPts数,因此(1,3)为核心点,它邻域内的样本均已在簇C1中,无需进行操作。 再考察(2,2),它到各点的距离分别为
在它的r邻域内,包括了自身在内的共四个样本点,达到了MinPts数,因此(2,2)为核心点,将它领域内尚未归入任何一个簇落的点(3,1)加入簇C1。
再考察(3,1),它到各点的距离分别为 在它的r邻域内,包括了自身在内的共两个样本点,因此(3,1)是非核心点。
考察结束,簇集C1扩展完毕。
(4)在其余未归簇的样本点中搜寻一个核心点,若不存在,返回噪声集合。 考察点(9,8),它到各点的距离分别为 在它的r邻域内,包括了自身在内的共三个样本点,达到了MinPts数,因此(9,8)为核心点。
(5)在核心点(9,8)处建立簇C2,原始簇成员为r邻域内样本:(9,8)、(8,9)、(9,9)。
(6)对簇落C2成员迭代式进行考察,扩展簇集。 先考察(8,9),它到各点的距离分别为
在它的r邻域内,包括了自身在内的共三个样本点,达到了MinPts数,因此(8,9)为核心点,它邻域内的样本均已在簇C2中,无需进行操作。再考察(9,9),它到各点的距离分别为
在它的r邻域内,包括了自身在内的共三个样本点,达到了MinPts数,因此(9,9)为核心点。它邻域内的样本均已在簇C2中,无需进行操作。考察结束,簇集C2扩展完毕。
(7)在其余未归簇的样本点中搜寻一个核心点,若不存在,返回噪声集合。 其余未归簇的样本点集合为{(18,18)},考察(18,18),它到各点的距离分别为 在它的r邻域内,包括了自身在内的共一个样本点,未达到MinPts数,因此(18,18)为非核心点。其余未归簇的样本中不存在核心点,因此归入噪声集O={(18,18)}。
(8)输出聚类结果 簇类C1:{(1,2),(1,3),(3,1),(2,2)} 簇类C2:{(9,8),(8,9),(9,9)} 噪声集O:{(18,18)}
四、Python实现示例的Python实现。
"""功能:用python实现DBSCAN聚类算法。"""from sklearn.cluster import DBSCANimport numpy as npimport matplotlib.pyplot as plt# 初始化数据data = np.array([(1,2),(1,3),(3,1),(2,2), (9,8),(8,9),(9,9), (18,18)])# 定义DBSCAN模型dbscan = DBSCAN(eps=2,min_samples=3)# 计算数据,获取标签labels = dbscan.fit_predict(data)# 定义颜色列表colors = ["b","r","c"]T = [colors[i] for i in labels]# 输出簇类print("\n 聚类结果: \n")ue = np.unique(labels)for i in range(ue.size): CLS = [] for k in range(labels.size): if labels[k] == ue[i]: CLS.append(tuple(data[k])) print("簇类{}:".format(ue[i]),CLS)# 结果可视化plt.figure()plt.scatter(data[:,0],data[:,1],c=T,alpha=0.5) # 绘制数据点plt.show()
运行结果:
End.
关键词: