原书出处
大语言模型-基础与前沿 (熊涛)
11 第11章 视觉语言模型
术利用查询Transformer(Querying Transformer,Q-Former)来实现有效的视觉语言对齐。
Q-Former是一种简单的Transformer,它可以从冻结的图像编码器中提取视觉信息,并充当图像编码器和冻结的大语言模型之间的瓶颈。
这样就可以将最有用的视觉特征馈送给大语言模型,从而生成必要的文本。 在第一个预训练阶段中,将执行视觉语言表征学习,并训练
原书定位详情
来源:a19c7933-4eda-4176-aebd-30fe7e1ad292
正文位置:extracted/大语言模型-基础与前沿 (熊涛)/_epub-src/EPUB/xhtml/chapter13.xhtml
EPUB SHA-256:1bd3e387da1e881a4b6e0214f2c7df6e30d5cdbd1f602c69fc88edacffe6743d