Lecture 03旧版热身(历史参考)
旧版热身(历史参考)
按问题继续
常数坍塌反例、固定教师KL学习及单独EMA计算
旧版热身(历史参考)
旧版热身仅保留为历史参考,不参与当前基准运行;当前解释与计算以上方完整实验为准。
Lecture 03旧版热身(历史参考)
展开查看旧版代码(仅展示,不执行)
import numpy as np
z=np.ones((8,4)); print('collapsed variance',z.var(0),'pair loss',((z-z[::-1])**2).mean())
rng=np.random.default_rng(3); student=rng.normal(size=4); teacher=np.zeros(4)
for _ in range(3): teacher=.9*teacher+.1*student
print('EMA teacher',teacher.round(3),'stop-gradient is one component, not a proof')
此引用的原文已在较早版本调整
原位置:document。当前正文保留在本篇;此旧引用没有足够证据自动等同于某个新段落。
此引用的原文已在较早版本调整
原位置:document。当前正文保留在本篇;此旧引用没有足够证据自动等同于某个新段落。
此引用的原文已在较早版本调整
原位置:document。当前正文保留在本篇;此旧引用没有足够证据自动等同于某个新段落。
此引用的原文已在较早版本调整
原位置:document。当前正文保留在本篇;此旧引用没有足够证据自动等同于某个新段落。