Lecture 03索引热身仍然有用,但不能叫学到了语义
索引热身仍然有用,但不能叫学到了语义
按问题继续
索引恢复、去噪/遮挡ConvAE训练、PCA基线、独立冻结评价
索引热身仍然有用,但不能叫学到了语义
先保留旧版0到15序列的可见均值填充。4个可见值时隐藏MSE为19.9167,8个可见值时为21.25;可见数更多却不一定降低这个均值代理,因为选中的位置和值都改变了,没有模型学习。
接着随机打乱16个索引,保留4个,其余放mask标记−1;用逆排列恢复原位置。验证恢复后可见值位于正确坐标。这个断言证明的是位置对应,不是重建质量。