Lecture 03活动 B:队列身份与参数更新分开看
活动 B:队列身份与参数更新分开看
主线阅读与优先实验
标签供给、文本目标接口、视图/队列/MAE图与表示迁移证据
活动 B:队列身份与参数更新分开看
八个槽位 [a0,a1,b0,b1,c0,c1,d0,d1] 加入 [e0,e1] 后,最老的两项离开。保存的是旧特征,不是旧图片完整计算图。下面代码只追踪身份和EMA,不训练图像模型。
先预测第二批 [f0,f1] 入队后剩下谁,再算m=0.9时key参数从[0,2]向query [2,4]靠近两次的结果:[0.38,2.38]。平均的是网络参数,旧队列向量不会自动刷新。
完整解释归并到 队列保存的是带历史身份的 key、梯度更新和 EMA 更新作用在不同地方;指着画面走一步用 P17 本页说明。想看真正图像训练,再选 LAB 07 · MoCo:历史 key、队列与两种更新。