原书出处
深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)
12 第12章 用Transformer实现英译中
# (batch_size, seq_len, d_model) ]) 12.3.6 构建EncoderLayer模块
使用MHA、dropout、norm及FFN构成一个EncoderLayer模块。 # Encoder有N个 EncoderLayer模块,而每个EncoderLayer模块又有两个sub-layer,即MHA & FFN
class EncoderLayer(tf.keras.layers.Layer): # dropout rate设为
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/深入浅出Embedding:原理解析与应用实践 (吴茂贵, 王红星)/_epub-src/OEBPS/Text/Chapter16_0003.xhtml
EPUB SHA-256:0056cad2f11cb1d60ead5054060bd6d41fef87dd049656db310bdc789c0ec7da