Lecture 03视图、投影头与历史字典
视图、投影头与历史字典
什么变化应当忽略?候选来自当前批次还是过去批次,会改变什么?
Lecture 03视图、投影头与历史字典
阅读与动手顺序
选一个起点
关心颜色与形状,选 LAB06;关心队列与 EMA,选 LAB07。两本共享对比学习背景,不要求先后全部运行。
从图像追到目标
指出同源视图、正例、竞争候选和损失,再区分编码器表示 h 与投影 z。
比较保存结果与预测
先预测改变增强或队列会影响哪项读出,再读已有结果;动手时只改变一项条件。
Lecture 03视图、投影头与历史字典
带走的结果
用一组对照说明:目标减少了什么差异,又保留了哪种任务信息。
Lecture 03视图、投影头与历史字典
优先实践
可先阅读已有结果,再按问题选择是否重算。并列实验提供不同起点,不要求全部运行。
- LAB 06 · 颜色干预:视图、投影与读出在 Deepnote 打开 ↗
真实RGB对比训练、唯一指定增强变化、h/z形状与颜色读出
- LAB 07 · MoCo:历史 key、队列与两种更新在 Deepnote 打开 ↗
真实FIFO键、EMA、梯度更新及低于随机基线的保留结果
Lecture 03视图、投影头与历史字典
配套讲解
- CLS 05 · 对比学习:视图、投影与历史字典在 Deepnote 打开 ↗
InfoNCE概率与梯度、h/z、温度、队列陈旧性、实测与评价协议
Lecture 03视图、投影头与历史字典
遇到相应问题时再展开(1 项)
- LAB 17 · 软目标与坍塌:三个数值检查在 Deepnote 打开 ↗
常数坍塌反例、固定教师KL学习及单独EMA计算
Lecture 03视图、投影头与历史字典