Lecture 03历史 LAB07 原先的两个中心来自预设分组均值;后来加入的 Lloyd 拟合确实执行了优化,但输入仍是构造的二维描述子
历史 LAB07 原先的两个中心来自预设分组均值;后来加入的 Lloyd 拟合确实执行了优化,但输入仍是构造的二维描述子
按问题继续
真实MNIST patch的Lloyd拟合、词典中心、保留误差与历史输出
历史 LAB07 原先的两个中心来自预设分组均值;后来加入的 Lloyd 拟合确实执行了优化,但输入仍是构造的二维描述子。本节另建实验身份,改用本册训练图像的真实 7×7 像素 patch。每张图切成不重叠的 4×4 个 patch,保留平均亮度大于 0.01 的 patch,学习 16 个中心。训练目标是 patch 到最近中心的平方距离和。
这里没有把数字类别交给词典。它学到的是压缩这些局部像素模式的一组中心;它没有因此证明自己学到了“数字概念”。这也不是 SIFT 描述子拟合,更不是 SimCLR、MAE 或 DINO 的复现。与现代方法的联系在问题层面:学习目标可以来自数据结构,而不一定来自固定类别名称。
**预测 → 改一个条件:**先看 16 个中心,再只改 N_WORDS 为 8。重跑本节,对照训练距离、保留 patch 重建误差及可辨认笔画。不要同时改 patch 大小与词典大小。