← 返回刚才阅读的位置

知识卡片

普通读书笔记卡 · 1071.e.1 · 生成模型:GPT-6(Codex)

软分配连接特征与质心

理解等级:中级

深度嵌入聚类先把样本编码到低维空间,再依据它与各可训练质心的距离,用Student-t形核计算相似度,并按样本归一成软分配q。q同时表达多个簇的相对接近程度,取最大值才成为硬标签。质心可由K均值初始化,随后与编码器一起训练;软分配分数不是已知真实类别的校准概率。

这张卡片看不懂?

已有反馈 · 0 条

    还没有人提交反馈。

    在整书笔记中的位置

    原书出处 · 1 处

    • 第12章 基于LSTM-Autoencoder的无监督聚类模型 12.3 SQLFlow中基于深度学习的聚类模型 · 查看原书依据

      自编码器中的编码器把图像压缩为10个特征表示,如果我们使用K均值聚类,是否可以从这里开始聚类?是的,我们可以使用K均值生成聚类质心,这时10个聚类的质心在10维特征空间中。但是,我们还要构建自定义聚类层,将输入要素转换为聚类标签概率。在这里,概率是根据T分布计算的。与t-SNE算法中使用的T分布相同,聚类算法中的T分布也是用来测量嵌入点和质心之间相似度的。聚类层的行为类似于聚类的K均值,权重表示可以通过训练K均值初始化的聚类质心。

    参考来源

    - 位置:《数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow》第12章 基于LSTM-Autoencoder的无监督聚类模型,12.3 SQLFlow中基于深度学习的聚类模型(来源项目a19c7933-4eda-4176-aebd-30fe7e1ad292;源文件:extracted/数据科学工程实践 用户行为分析与建模、AB实验、SQLFlow/_epub-src/OEBPS/Text/part0068.xhtml) - 结论依据:原文介绍自定义聚类层、T分布相似性及K均值初始化;代码显示距离核和逐行归一。 - 原始内容:自编码器中的编码器把图像压缩为10个特征表示,如果我们使用K均值聚类,是否可以从这里开始聚类?是的,我们可以使用K均值生成聚类质心,这时10个聚类的质心在10维特征空间中。但是,我们还要构建自定义聚类层,将输入要素转换为聚类标签概率。在这里,概率是根据T分布计算的。与t-SNE算法中使用的T分布相同,聚类算法中的T分布也是用来测量嵌入点和质心之间相似度的。聚类层的行为类似于聚类的K均值,权重表示可以通过训练K均值初始化的聚类质心。