Lecture 03选择一个使用问题,做一次完整比较
选择一个使用问题,做一次完整比较
主线阅读与优先实验
标签供给、文本目标接口、视图/队列/MAE图与表示迁移证据
选择一个使用问题,做一次完整比较
| 你的问题 | 首选实验 | 应保持的条件 |
|---|---|---|
| 现成表示里能读出什么? | LAB 01 · 固定表示:标签预算与读出 | 编码器、样本划分、预处理不变;改变标签预算或读出 |
| 允许改参数后是否值得? | LAB 02 · 参数迁移:冻结、局部与全量微调 | 同一源checkpoint、新任务与划分;比较冻结、局部、全量和scratch |
两本都使用已有有监督CNN及数字任务,不冒充自监督视觉预训练。LAB01显示固定表示下kNN与线性读出的差别;LAB02的默认历史协议中scratch验证CE更低,保留这个负结果是为了让判断由证据决定。
冻结读出与微调分别在问什么? 解释两种协议的含义;解冻更多参数,不保证更好 解释怎样读负结果。主线完成后再按需要读XOR或域变化,避免把所有短实验变成额外必做任务。