Lecture 03组合接口与选读边界
组合接口与选读边界
按问题继续
目标/参照/关系、受控图像干预、短语区域学习、分割提示及连接器
组合接口与选读边界
语言定位可以先产出框,再将框交给 SAM 一类提示式分割接口。若语言阶段把参照杯当成目标,后续 mask 可能边界很准但对象错误;若框身份正确而边界差,应检查分割与分辨率。由此把错误沿接口定位,见 提示式分割 和 语言定位到局部输出。
第五讲预备阅读。 BLIP-2 的 Q-Former、Flamingo 的视觉重采样和跨模态交互,提供与原始 LLaVA 线性投影不同的信息选择方式。它们留作接口比较,不是第三讲必须提前完成的 attention 专题。
压缩视觉向量可降低后续计算,但小字或小物体可能被丢失;提高分辨率也带来成本。判断时用同图换问、遮挡目标和关系交换等具体对照,而不把流畅回答本身当作细节保留的证明。
BLIP-2 原论文 · Flamingo 原论文。回到 三条主线的组件复用,然后进入 第四讲 · 从条件多解走向生成模型。