Lecture 03文字候选与图文检索
文字候选与图文检索
同一个图像向量,怎样支持换候选、换提示和搜索图片?
Lecture 03文字候选与图文检索
阅读与动手顺序
先读真实图像与权重的结果
LAB04 保留真实猫图、固定 CLIP 权重身份和候选对照结果;权重需按说明另行下载。分开余弦相似度和随候选集合改变的归一化分数。
明确零样本协议
不使用当前下游数据集再训练模型,直接用已有编码器比较文字候选;不等于预训练从未见过相关概念。
需要搜索时进入缓存实验
LAB12 复用已有表示,比较精确搜索、近似搜索与区域交互基线;数据、指标和成本口径分别说明。
Lecture 03文字候选与图文检索
带走的结果
记录同一图像在两组候选中的原始相似度与归一化分数,解释哪些量应改变。
Lecture 03文字候选与图文检索
优先实践
可先阅读已有结果,再按问题选择是否重算。并列实验提供不同起点,不要求全部运行。
- LAB 04 · CLIP:候选、提示与关系检验在 Deepnote 打开 ↗
真实CLIP输入/权重/分数、候选改动、四条件规则与独立关系推理
Lecture 03文字候选与图文检索
配套讲解
- CLS 03 · 视觉与语言:任务、训练与接口在 Deepnote 打开 ↗
caption历史、VQA、CLIP候选、关系控制、GLIP/LLaVA与生成桥梁
- CLS 10 · CLIP:配对学习与可复用表示在 Deepnote 打开 ↗
CLIP对称目标、候选集合、缓存、IVF及真实关系分数
Lecture 03文字候选与图文检索
遇到相应问题时再展开(1 项)
- LAB 12 · CLIP延伸:缓存与检索(近似索引选读)在 Deepnote 打开 ↗
同一CLIP缓存、exact/IVF搜索、延迟/扫描量、区域交互基线
Lecture 03文字候选与图文检索