选读:结构与遮挡目标为什么要共同设计
课堂上下文:从哪个问题来
重建不是简单复制;瓶颈、破坏或遮挡为学习增加约束,和视图关系形成另一类目标。
把原MAE目标直接搬到卷积网络,并不意味着所有结构假设仍成立。ConvNeXt V2将遮挡图看成稀疏空间输入,用FCMAE组织学习,并引入GRN改善通道响应的多样性。这提供了一个正面研究例子:目标与网络结构可以一起设计。
原论文Table 3的Base比较(ImageNet-1K top-1,%):
| 架构 | 监督训练 | FCMAE预训练后微调 |
|---|---|---|
| V1-Base | 83.8 | 83.7 |
| V2-Base | 84.3 | 84.6 |
FCMAE列先预训练800轮再微调,不能称等总预算。V1中换目标为−0.1,V2中为+0.3;这提示组合值得研究,却不能仅凭四个数识别一个严格因果交互。这里是论文证据,和LAB05的patch词典拟合不是同一实验。读完回到P22的用途评价,不再另开主讲章节。