Lecture 03四点 XOR:读不出来,不一定是没留下
四点 XOR:读不出来,不一定是没留下
主线阅读与优先实验
标签供给、文本目标接口、视图/队列/MAE图与表示迁移证据
四点 XOR:读不出来,不一定是没留下
四个表示 h 为 (−1,−1)、(−1,+1)、(+1,−1)、(+1,+1)。同号的两点标签为 0,异号的两点为 1。每一点都不同,标签信息并未因碰撞而消失,但这两组对角点不能被一条直线完全分开。
加一个确定性非线性特征 z=h₁×h₂ 后,同号为 +1、异号为 −1,一维阈值就能分开。这只构造了“表示与读出一起决定可用性”的例子;它不主张真实 SimCLR 的投影头必然学成这个乘法。
静态结果:原四点各有身份;新特征为 [+1,−1,−1,+1],用 z<0 读取标签得到 [0,1,1,0]。这也解释为什么需要同时报告冻结线性评价与允许非线性适配的评价。