原书出处
深度学习详解
11 自编码器 11.5 自编码器应用之离散隐表征
其实在这种离散的表征技术中,最知名的就是向量量化变分自编码器(Vector Quantized-Variational AutoEncoder,VQ-VAE). 它的运作原理就是输入一张图片,然后编码器输出一个向量,这个向量很普通并且是连续的,但接下来有一个码本,码本就是一排向量,如图11.12 所示. 这排向量也是学出来的,计算编码器的输出和这排向量间的相似度,就会发现这其实跟自注意力有点像,上面的向量就是查询,下面的向量就是键,接下来就看下面的这些向量里面谁的相似度最大,把相似度最大的那个向量拿出来,让这个键和那个值共用同一个向量.
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/深度学习详解/_epub-src/OEBPS/Text/Chapter11.xhtml
EPUB SHA-256:35d2d4b7de742e0ce7756e7fb57c534014bf33cecdf0483a75e23cb7446cb7dc