[LAB 17 · 软目标与坍塌:三个数值检查](/course/notebooks/268a4ab11b464c64b065f9fc12b19cc7.html) # 旧版热身(历史参考) [独立阅读](/course/notebook-blocks/1658d972c93e45b4a3bb0d957f2e33d2.html) 按问题继续 常数坍塌反例、固定教师KL学习及单独EMA计算 ## 旧版热身(历史参考) 旧版热身仅保留为历史参考,不参与当前基准运行;当前解释与计算以上方完整实验为准。 #### 展开查看旧版代码(仅展示,不执行) ``` import numpy as np z=np.ones((8,4)); print('collapsed variance',z.var(0),'pair loss',((z-z[::-1])**2).mean()) rng=np.random.default_rng(3); student=rng.normal(size=4); teacher=np.zeros(4) for _ in range(3): teacher=.9*teacher+.1*student print('EMA teacher',teacher.round(3),'stop-gradient is one component, not a proof') ```