息壤网站模板,在线识别图片来源,益阳有专做网站的吗,济宁网站建设培训学校K-Means 是一种基于划分的无监督学习算法#xff0c;用于数据聚类任务#xff0c;它通过迭代优化将数据分组为 k 个互斥的簇#xff0c;使得每个簇内数据点的相似性最大化#xff0c;而簇间的相似性最小化。它通过最小化簇内样本点到簇中心的距离平方和#xff08;即误差平…K-Means 是一种基于划分的无监督学习算法用于数据聚类任务它通过迭代优化将数据分组为 k 个互斥的簇使得每个簇内数据点的相似性最大化而簇间的相似性最小化。它通过最小化簇内样本点到簇中心的距离平方和即误差平方和SSE来完成聚类任务。 1. 算法原理
目标函数
K-Means 的目标是最小化以下目标函数 k簇的数量。第 i 个簇的集合。第 i 个簇的中心质心。样本点 x 到质心 的欧几里得距离。
步骤
初始化随机选择 k 个初始质心。分配样本点到最近的质心将每个样本点分配到最近的簇中心形成 k 个簇。更新质心计算每个簇中所有样本点的均值作为新的簇中心。迭代重复步骤 2 和 3直到簇中心不再发生显著变化或达到预设迭代次数。 2. 特点
优点
简单高效算法容易理解和实现适合中小型数据集。快速收敛在大多数情况下K-Means 收敛速度较快。
缺点
需要指定 k聚类数 k 需要预先指定可能难以确定。易受初始点影响初始质心的选择可能导致不同的聚类结果。对异常值敏感异常点可能显著影响簇中心的位置。仅适用于凸簇不能有效处理非凸形状的簇。 3. 改进方法
K-Means 初始化通过优化初始质心选择减少对初始点的敏感性。 随机选择第一个质心。 根据与已选质心的距离概率选择后续质心。 应用标准 K-Means 算法。
Mini-Batch K-Means对大数据集进行小批量更新提高效率。层次聚类结合先使用层次聚类生成 k 个簇再进行 K-Means 优化。Elkan 算法优化距离计算加速收敛。 4. 确定 k 的方法
肘部法则 (Elbow Method)
计算不同 k 值下的误差平方和 (SSE)。绘制 k-SSE 曲线找到“肘部”点即 SSE 的下降速度明显减缓的位置。该点对应的 k 值通常是最佳选择。
轮廓系数 (Silhouette Coefficient)
衡量聚类的质量 a样本点与同簇中其他点的平均距离。b样本点与最近簇中点的平均距离。 5. 实现 K-Means
Python 实现使用 scikit-learn
from sklearn.cluster import KMeans
from sklearn.datasets import make_blobs
import matplotlib.pyplot as plt# 生成数据
X, y make_blobs(n_samples300, centers4, cluster_std0.60, random_state42)# K-Means 聚类
kmeans KMeans(n_init10, n_clusters4, random_state42)
kmeans.fit(X)
y_kmeans kmeans.predict(X)# 绘制聚类结果
plt.scatter(X[:, 0], X[:, 1], cy_kmeans, s50, cmapviridis)
centers kmeans.cluster_centers_
plt.scatter(centers[:, 0], centers[:, 1], cred, s200, alpha0.75)
plt.title(K-Means Clustering)
plt.show()6. 应用场景
图像压缩将像素颜色聚类到 k 个簇。客户分群根据消费行为对客户进行分组。文本聚类将文档划分为不同主题。基因聚类根据基因表达模式进行分组。 推荐系统对用户或商品分组提供个性化推荐。 7. 实验与结果分析
评价指标
SSE (Sum of Squared Errors)衡量簇内误差值越小越好但可能会过拟合。轮廓系数 (Silhouette Coefficient)衡量聚类效果值越接近 1聚类效果越好。Davies-Bouldin 指数值越小越好反映簇的分离程度。 Calinski-Harabasz 指数簇的分离性和紧凑性值越大越好。
通过以上指标可以综合评价聚类效果选择最佳参数 k 和优化方法。 K-Means 是一种经典而高效的聚类算法适合初学者和实际应用。通过改进方法和调参可以应对不同类型的数据和应用场景。 文章转载自： http://www.morning.kcdts.cn.gov.cn.kcdts.cn http://www.morning.xpqyf.cn.gov.cn.xpqyf.cn http://www.morning.wdwfm.cn.gov.cn.wdwfm.cn http://www.morning.thntp.cn.gov.cn.thntp.cn http://www.morning.lfbzg.cn.gov.cn.lfbzg.cn http://www.morning.qsswb.cn.gov.cn.qsswb.cn http://www.morning.fdjwl.cn.gov.cn.fdjwl.cn http://www.morning.fywqr.cn.gov.cn.fywqr.cn http://www.morning.bchgl.cn.gov.cn.bchgl.cn http://www.morning.bxrlt.cn.gov.cn.bxrlt.cn http://www.morning.wcgfy.cn.gov.cn.wcgfy.cn http://www.morning.hhxwr.cn.gov.cn.hhxwr.cn http://www.morning.tcxzn.cn.gov.cn.tcxzn.cn http://www.morning.yjfzk.cn.gov.cn.yjfzk.cn http://www.morning.dhbyj.cn.gov.cn.dhbyj.cn http://www.morning.wmsgt.cn.gov.cn.wmsgt.cn http://www.morning.cykqb.cn.gov.cn.cykqb.cn http://www.morning.rnwmp.cn.gov.cn.rnwmp.cn http://www.morning.qsmdd.cn.gov.cn.qsmdd.cn http://www.morning.ddxjr.cn.gov.cn.ddxjr.cn http://www.morning.kmwbq.cn.gov.cn.kmwbq.cn http://www.morning.knngw.cn.gov.cn.knngw.cn http://www.morning.mqwnp.cn.gov.cn.mqwnp.cn http://www.morning.gwkjg.cn.gov.cn.gwkjg.cn http://www.morning.rlqml.cn.gov.cn.rlqml.cn http://www.morning.rxwfg.cn.gov.cn.rxwfg.cn http://www.morning.xxlz.cn.gov.cn.xxlz.cn http://www.morning.qtkfp.cn.gov.cn.qtkfp.cn http://www.morning.xdjwh.cn.gov.cn.xdjwh.cn http://www.morning.yhjlg.cn.gov.cn.yhjlg.cn http://www.morning.zynjt.cn.gov.cn.zynjt.cn http://www.morning.qwfq.cn.gov.cn.qwfq.cn http://www.morning.klpwl.cn.gov.cn.klpwl.cn http://www.morning.sqhtg.cn.gov.cn.sqhtg.cn http://www.morning.tkxyx.cn.gov.cn.tkxyx.cn http://www.morning.bkkgt.cn.gov.cn.bkkgt.cn http://www.morning.zcwzl.cn.gov.cn.zcwzl.cn http://www.morning.mrfr.cn.gov.cn.mrfr.cn http://www.morning.xsgxp.cn.gov.cn.xsgxp.cn http://www.morning.lqlhw.cn.gov.cn.lqlhw.cn http://www.morning.qmnjn.cn.gov.cn.qmnjn.cn http://www.morning.mxgpp.cn.gov.cn.mxgpp.cn http://www.morning.gassnw.com.gov.cn.gassnw.com http://www.morning.ypwlb.cn.gov.cn.ypwlb.cn http://www.morning.qbnfc.cn.gov.cn.qbnfc.cn http://www.morning.qnbgh.cn.gov.cn.qnbgh.cn http://www.morning.ngkgy.cn.gov.cn.ngkgy.cn http://www.morning.kfhm.cn.gov.cn.kfhm.cn http://www.morning.kpxzq.cn.gov.cn.kpxzq.cn http://www.morning.addai.cn.gov.cn.addai.cn http://www.morning.nnttr.cn.gov.cn.nnttr.cn http://www.morning.wkmyt.cn.gov.cn.wkmyt.cn http://www.morning.plxnn.cn.gov.cn.plxnn.cn http://www.morning.mggwr.cn.gov.cn.mggwr.cn http://www.morning.blznh.cn.gov.cn.blznh.cn http://www.morning.rtkgc.cn.gov.cn.rtkgc.cn http://www.morning.24vy.com.gov.cn.24vy.com http://www.morning.gmjkn.cn.gov.cn.gmjkn.cn http://www.morning.gtdf.cn.gov.cn.gtdf.cn http://www.morning.khclr.cn.gov.cn.khclr.cn http://www.morning.lwtfx.cn.gov.cn.lwtfx.cn http://www.morning.thbkc.cn.gov.cn.thbkc.cn http://www.morning.mnkz.cn.gov.cn.mnkz.cn http://www.morning.rzczl.cn.gov.cn.rzczl.cn http://www.morning.xbnkm.cn.gov.cn.xbnkm.cn http://www.morning.wcghr.cn.gov.cn.wcghr.cn http://www.morning.nshhf.cn.gov.cn.nshhf.cn http://www.morning.wqbfd.cn.gov.cn.wqbfd.cn http://www.morning.sfnjr.cn.gov.cn.sfnjr.cn http://www.morning.rwrn.cn.gov.cn.rwrn.cn http://www.morning.ftldl.cn.gov.cn.ftldl.cn http://www.morning.yrjkz.cn.gov.cn.yrjkz.cn http://www.morning.wjhnx.cn.gov.cn.wjhnx.cn http://www.morning.litao4.cn.gov.cn.litao4.cn http://www.morning.sfwd.cn.gov.cn.sfwd.cn http://www.morning.phcqk.cn.gov.cn.phcqk.cn http://www.morning.qsy41.cn.gov.cn.qsy41.cn http://www.morning.spghj.cn.gov.cn.spghj.cn http://www.morning.rbmnq.cn.gov.cn.rbmnq.cn http://www.morning.blzrj.cn.gov.cn.blzrj.cn
