## 在固定检测协议下检验预训练起点

比较同一下游检测器的两种预训练起点，而不是要求冻结编码器直接输出框。

### MoCo 的表示怎样支持检测迁移？
[独立阅读](/course/blocks/moco-voc-transfer-evidence.html)
MoCo原论文Table 2(b)在同一Faster R-CNN、ResNet-50-C4设置下比较预训练起点：



| 预训练 | box AP | AP50 | AP75 |
| --- | --- | --- | --- |
| ImageNet-1M 人工类别监督 | 53.5 | 81.3 | 58.8 |
| ImageNet-1M MoCo | 55.9 | 81.5 | 62.6 |



两者均在VOC trainval07+12检测标注上全层微调24k次，评价为VOC test2007，取5次实验平均；AP是COCO式多IoU阈值指标，AP50/AP75是指定阈值。MoCo相对提高2.4 AP，说明视图对比学出的参数在这套下游协议下提供了有效起点。



这不是冻结模型直接会检测：检测头与主干都用检测监督适配。它也不把所有预训练和下游总算力配平。相同论文的另一种主干结构收益不同，因此结论应保留具体模型与协议。

**出处：**[MoCo 原论文 §3、§4.2、Table 2](https://arxiv.org/html/1911.05722v3)
## 新域失败与负迁移，需要不同参照

先比较源域与目标域，再在同一目标预算下比较适配与从零，避免混用两种差值。

### 新域失效与负迁移不能混为一谈
[独立阅读](/course/blocks/environment-shift-versus-negative-transfer.html)
设源域中背景与标签强相关，目标域把这条关系翻转。一个使用背景的模型可以在随机源域保留集很好，到目标域却失败。这说明源域评价没有覆盖所需环境变化；还不能单独说明“用了预训练反而更坏”。



负迁移需要在同一目标任务和标签预算下比较预训练起点与合理基线，例如从零训练。当前LAB 22用两维解析输入训练逻辑回归，明确区分源域保留、目标零样本、32标签适配与32标签从零。历史输出中适配准确率0.9922，高于零样本0.0762；但从零为1.0，因此适配收益和相对从零优势不是同一数。



这是受控特征实验，不是视觉模型从照片自动发现因果。它帮助学生设计下一次真正研究：哪些环境被留出，哪些线索稳定，少量目标标签能修正什么？


## 下一步：把表示接到区域、像素和对象身份

## 解释、算例与证据

# P24 · 学到表示之后，新任务提出了什么要求？

总结表示学习的选择与评价，再引入空间任务：输出要求变了，已有整图答案不能直接交付位置和实例。



图内标签与数值：P24 学习表示机制图，状态 1；人工类别；视图对应；隐藏内容；可复用的视觉表示；类别：有什么；区域：在哪里；像素 / 实例身份；下一步：把空间信息；变成任务能够使用的答案。

人工类别、视图对应、隐藏内容三路汇入视觉表示，再连接类别、区域、像素及实例身份。

- 人工类别
- 视图对应
- 隐藏内容
- 可复用的视觉表示
- 类别：有什么
- 区域：在哪里
- 像素 / 实例身份
- 下一步：把空间信息
- 变成任务能够使用的答案。人工类别、视图对应、隐藏内容三路汇入视觉表示，再连接类别、区域、像素及实例身份。 [查看对应图解状态](/#/l3-r2-p24/0)[查看完整图解](/course/figures/l3-r2-p24-0.html)

## 课堂讲述

第一部分现在可以收起来了。监督分类、视图对比、遮挡重建，用不同信号塑造表示；它们不是“有用”和“没用”的简单对立，也不能只凭训练目标判断迁移能力。
我们已经有了可以复用的网络。下一步不再增加一种预训练方法，而是把它送进更具体的视觉任务。还是这张图，我不仅要说有杯子，还要找到每只杯子的位置，分出杯柄和边缘，并区分相邻两个同类对象。
这些要求会让原来容易忽略的空间信息成为中心。下面先回到分类预训练迁移到检测的历史案例，再看区域计算、像素预测和实例掩码怎样汇合。课堂顺序这样安排，是为了看清问题；历史上，它们并不是等现代自监督成熟才开始。


### 从表示到空间输出：下一部分新增了什么？
[独立阅读](/course/blocks/representation-to-spatial-output-bridge.html)
第一部分回答怎样获得表示，以及怎样判断它对新任务有用。第二部分不重新挑选一套更响亮的预训练名称，而是改变答案格式：整图类别变成对象框、像素类别与实例身份。



整图向量可以告诉我们“有杯子”，但若位置已经被平均掉，后面再加复杂读出也未必能找回哪只在左。保留空间网格以后，还要决定怎样提出区域、给区域分配类别与框、让mask对应到具体对象。训练目标和输出结构必须一起适配。



历史上的R-CNN使用监督分类预训练；它不以MoCo为前提。这里的连接是问题层面的：一份可迁移起点怎样接到新任务，而不是把方法硬排成单线进化史。带着这一问题读P25的同场景四种答案，才能看见为何下一部分需要新的监督与接口。


## 沿这个问题继续

读P25四种输出作为下一段起点；若对源域成功目标域失败感兴趣，再选LAB 22。


#### 按问题回查的讲解与短练习（2）
**出处：**[S1 · 教材与出处](/course/round2-sources.html#S1) · [S4 · 教材与出处](/course/round2-sources.html#S4)
#### 图示条件与公式约定

回到已有两杯一书同一底图，第一部分结束不引入新预训练方法；进入监督预训练迁移的历史案例也不意味着自监督先于早期检测。


#### 这条线索的展开与后续阅读

- [表示已经有了，位置与边界怎样得到？](/supplement.html?return=l3-r2-p24/0#/l3-section1-close/0) 本页说明