Lecture 03 学习讲义
正文
工具
按问题查找
视觉与语言一个条件怎样容纳多种合理结果?

一个可算的多解例子:最小均方误差为何给出不存在的结果

独立阅读
课堂上下文:从哪个问题来

画面刻意展示同一句条件对应多个合理图像。三幅红杯强调多样性,蓝杯强调条件约束;这些是语义例子,并非单变量受控比较。下方的 ±1 算例解释为什么一个最优平均值仍可能不是合理样本,让第四讲的问题有具体起点。

给定同一条件 cc,真实结果 XX 等概率取 −1-1 或 +1+1。若模型只能给一个确定数 aa,并最小化平均平方误差,

E[(X−a)2∣c]=12(−1−a)2+12(1−a)2=1+a2.\mathbb E[(X-a)^2\mid c]=\tfrac12(-1-a)^2+\tfrac12(1-a)^2=1+a^2.

最优值是 a=0a=0,误差为 1;但真实分布从不产生 0。模型给出了最好的条件均值,却没有给出一个真实可能样本。对应图像的直观例子是杯子可能在左或右,逐像素平均可能出现模糊或重影,而不是某一次合理摆放。

再设生成器正确地随机输出 −1-1 或 +1+1,与一份独立抽出的真值比较,二者一半相同、一半差 2,期望平方误差是 0.5×0+0.5×4=20.5\times0+0.5\times4=2。生成器符合真实分布,却在这种独立配对 MSE 上比输出 0 更差。这说明评价没有衡量我们真正要求的对象。

因此生成评价至少拆开条件满足、样本合理和多样性覆盖。逼真但总输出同一种可能会漏掉模式;很多变化但不满足红色条件也失败。这个小算例只解释问题结构,不替任何生成算法背书,完整训练和采样方法留第四讲。

继续阅读与实验