Lecture 03从遮挡重建到表示评价
从遮挡重建到表示评价
看见少量图块,学会补图之后得到的表示是否可用?
Lecture 03从遮挡重建到表示评价
阅读与动手顺序
先辨认模型看见什么
对应 16 块中 4 块可见的课堂机制,分开可见输入、位置线索、解码补位与遮挡位置目标。
读小型学习实验
LAB08 用完整像素网格和 mask 通道训练小型卷积自编码器,再单独评价表示;它不采用原版 MAE 只编码可见 token 的结构,也不复现该结构的计算节省。
需要时回到 patch 词典
LAB05 的 patch 词典解释另一种无类别标签的表示构造,可与神经网络重建比较。
Lecture 03从遮挡重建到表示评价
带走的结果
并列报告重建误差与一个下游读出结果,解释二者回答的问题为何不同。
Lecture 03从遮挡重建到表示评价
优先实践
可先阅读已有结果,再按问题选择是否重算。并列实验提供不同起点,不要求全部运行。
- LAB 08 · 图像重建:遮挡损失与表示评价在 Deepnote 打开 ↗
索引恢复、去噪/遮挡ConvAE训练、PCA基线、独立冻结评价
Lecture 03从遮挡重建到表示评价
配套讲解
- CLS 04 · 重建:约束、位置与表示评价在 Deepnote 打开 ↗
词典/PCA数值、线性自编码约束、遮挡索引、masked ConvAE与MAE区别
Lecture 03从遮挡重建到表示评价
遇到相应问题时再展开(1 项)
- LAB 05 · 像素 patch 词典:拟合与重建在 Deepnote 打开 ↗
真实MNIST patch的Lloyd拟合、词典中心、保留误差与历史输出
Lecture 03从遮挡重建到表示评价