LAB 02 · 参数迁移：冻结、局部与全量微调

先看一个真实的、可能推翻直觉的参考结果

按问题继续

同源参数的冻结/局部/全量/scratch与BN模式辨析

先看一个真实的、可能推翻直觉的参考结果。 每轮结束冻结当前模型计算训练与验证交叉熵，各组保留验证交叉熵最低的检查点。

已保存本地运行：课件源检查点 ba8b738c…14eeba3，256 训练/128 验证，统一右移 2px，seed=20260917，Adam lr=.002，batch=64，各 4 轮。两图纵轴相同；右图空心圈是各组所选停点。最低验证 CE：head 1.906、late .877、all .849、scratch .611。本图读取已保存数值绘制；没有把它写成此次 Deepnote 云端输出。

先回答： 按预先写好的验证选择规则，这次应该选谁？scratch 获胜说明当前协议里预训练并未自动带来优势；它不能证明迁移普遍无效。短预算、相同学习率和这项特定二分类都限制结论。

下面会训练你的 4 个小模型，不覆盖既有源模型与课件响应。先保持默认协议核对，再进入最后的保留集评价；此时不能用保留结果回头挑更新范围。