一个可算的多解例子:最小均方误差为何给出不存在的结果
课堂上下文:从哪个问题来
画面刻意展示同一句条件对应多个合理图像。三幅红杯强调多样性,蓝杯强调条件约束;这些是语义例子,并非单变量受控比较。下方的 ±1 算例解释为什么一个最优平均值仍可能不是合理样本,让第四讲的问题有具体起点。
给定同一条件 ,真实结果 等概率取 或 。若模型只能给一个确定数 ,并最小化平均平方误差,
最优值是 ,误差为 1;但真实分布从不产生 0。模型给出了最好的条件均值,却没有给出一个真实可能样本。对应图像的直观例子是杯子可能在左或右,逐像素平均可能出现模糊或重影,而不是某一次合理摆放。
再设生成器正确地随机输出 或 ,与一份独立抽出的真值比较,二者一半相同、一半差 2,期望平方误差是 。生成器符合真实分布,却在这种独立配对 MSE 上比输出 0 更差。这说明评价没有衡量我们真正要求的对象。
因此生成评价至少拆开条件满足、样本合理和多样性覆盖。逼真但总输出同一种可能会漏掉模式;很多变化但不满足红色条件也失败。这个小算例只解释问题结构,不替任何生成算法背书,完整训练和采样方法留第四讲。