Lecture 03 学习讲义
正文
工具
按问题查找
Lecture 03原始 LLaVA 的接口是视觉编码器 → 线性投影 → 语言模型

原始 LLaVA 的接口是视觉编码器 → 线性投影 → 语言模型

独立阅读

主线阅读与优先实验

caption历史、VQA、CLIP候选、关系控制、GLIP/LLaVA与生成桥梁

原始 LLaVA 的接口是视觉编码器 → 线性投影 → 语言模型。送入的是视觉网格向量,不是一个类别标签。阶段一冻结视觉与语言模型,只训练投影;阶段二仍冻结视觉,更新投影与语言模型。

P64 与 P65 对照这两个阶段。完整解释集中于 CLS 11 · 语言定位与视觉模型接口;注意后续版本的连接器不倒写为原始配置,RNN/attention 的内部结构留第五讲。