原书出处
大语言模型-基础与前沿 (熊涛)
11 第11章 视觉语言模型
mingo模型在训练过程中也使用了冻结的预训练模型,而且训练的目的只是为了以和谐的方式连接现有的强大语言模型和视觉模型。
不过,Flamingo模型与ClipCap模型的不同之处在于,它利用了一个门控交叉注意力密集层来融合图像信息,并纳入了更多的训练数据。
2. Blip-2 要在视觉-语言预训练(Vision-Language Pre-training,VLP)中使用预训练
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter13.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d