知识卡片
软分配连接特征与质心
深度嵌入聚类先把样本编码到低维空间,再依据它与各可训练质心的距离,用Student-t形核计算相似度,并按样本归一成软分配q。q同时表达多个簇的相对接近程度,取最大值才成为硬标签。质心可由K均值初始化,随后与编码器一起训练;软分配分数不是已知真实类别的校准概率。
这张卡片看不懂?
这张卡片已通过人工审查,不再接受失败反馈。
已有反馈 · 0 条
还没有人提交反馈。
在整书笔记中的位置
原书出处 · 1 处
- 第12章 基于LSTM-Autoencoder的无监督聚类模型 12.3 SQLFlow中基于深度学习的聚类模型 · 查看原书依据
自编码器中的编码器把图像压缩为10个特征表示,如果我们使用K均值聚类,是否可以从这里开始聚类?是的,我们可以使用K均值生成聚类质心,这时10个聚类的质心在10维特征空间中。但是,我们还要构建自定义聚类层,将输入要素转换为聚类标签概率。在这里,概率是根据T分布计算的。与t-SNE算法中使用的T分布相同,聚类算法中的T分布也是用来测量嵌入点和质心之间相似度的。聚类层的行为类似于聚类的K均值,权重表示可以通过训练K均值初始化的聚类质心。
参考来源
- 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第12章 基于LSTM-Autoencoder的无监督聚类模型,12.3 SQLFlow中基于深度学习的聚类模型(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0068.xhtml)
- 结论依据:原文介绍自定义聚类层、T分布相似性及K均值初始化;代码显示距离核和逐行归一。
- 原始内容:自编码器中的编码器把图像压缩为10个特征表示,如果我们使用K均值聚类,是否可以从这里开始聚类?是的,我们可以使用K均值生成聚类质心,这时10个聚类的质心在10维特征空间中。但是,我们还要构建自定义聚类层,将输入要素转换为聚类标签概率。在这里,概率是根据T分布计算的。与t-SNE算法中使用的T分布相同,聚类算法中的T分布也是用来测量嵌入点和质心之间相似度的。聚类层的行为类似于聚类的K均值,权重表示可以通过训练K均值初始化的聚类质心。