训练结束保存的是参数,新图经过这些参数的计算才产生表示。用杯子分类转向左右定位的例子,区分编码器与分类头各自留下什么,以及迁移需要检验的起点优势。
每个解释,都有可以引用的位置
可以从课堂页进入,也可以从一个概念、算例或实验问题进入。每块正文保留必要上下文,并连接回图解和完整实验。
把数字十分类改成是否大于等于五,可以合并原类别,也可以用中间表示另学二分类头。两条路径对旧分类错误的依赖不同,说明换任务时为什么要重新选择读取接口。
同一张照片的整图类别、对象框、像素掩码和关系描述提供不同答案。用一千张图的假设标注工时比较,说明监督预算取决于输出粒度、复核与返工,不能只按图片数量估算。
组织人工判断与从数据构造训练答案,是扩大监督供给的两条可并用路线。Scale 的早期服务和同图视图、遮词、遮挡像素各说明一种来源,并连接少量精确标注的下游适配。
同一句红杯描述既能构造下一词预测,也能构造遮词预测;目标来自原文,可见条件却不同。正确词概率从四分之一升到二分之一的损失计算,展示文字如何提供参数更新反馈。
自监督、分类、交叉熵分别描述答案来源、输出任务和惩罚方式,可以出现在同一实验中。沿同源候选选择与隐藏像素预测拆开这三个维度,才能判断模型实际在学习什么。
批内对比保留当前视图的计算状态,MoCo 缓存历史向量,MAE 减少昂贵编码器处理的图块。比较新图编码、激活和缓存三类开销,说明计算条件怎样参与训练目标的实现。
两张视图的正例身份来自同一原图的数据记录。裁剪与亮度变化保留共有轮廓时,配对任务鼓励学习稳定结构;若两次裁剪只剩无关物体,同源规则也可能给出不合适的训练约束。
同一红杯照片的两次裁剪是同源正例,另一只红杯通常仍是其他候选。这个例子分开实例身份与下游类别,解释假负例为何会让同一对图像在两种任务中受到不同的训练压力。
三个温度缩放后分数为二、一、零的候选,可算出正例概率约为零点六六五,损失约为零点四零八。选择题算例把正例、分母与相对分数接起来,再对应图像实验中的反向传播。
固定三个相似度,只改变温度,排序不变而概率集中程度改变。结合正负例梯度解释低温何时强化竞争、何时因预测已饱和而减弱梯度,区分调低损失与改善表示。
所有图像都输出同一向量时,配对距离可以为零,却无法区分候选。三个候选只能各得三分之一概率的算例,解释对比目标为何需要区分性,以及实际训练还应怎样检查表示退化。
对比损失经过投影头仍能更新编码器;迁移读取中间表示只是改用另一个接口。形状与颜色的两分量构造说明投影头如何提供分工空间,再用已有换色实验检验这种空间是否被利用。
识别形状可能希望忽略颜色变化,分拣红蓝杯却必须保留它。从同一底图固定几何与背景,只改变颜色操作,并分别评价形状和颜色,才能辨认增强带来的具体用途取舍。
已有合成图像训练固定初始化和预算,只改变视图是否交换红蓝通道。形状读出提升而颜色读出下降的结果,把不变性的收益与代价同时显现;不同读出方法还揭示同一表示的可用性差异。
同一视图列表同时作为矩阵两轴时,四个视图形成四阶矩阵,自身排除后每行有三个候选;六个视图则有五个。明确正例身份后,可以追踪扩大当前批次怎样增加比较与反传开销。
容量四的队列在本批加入两个新键时,也移除两个最旧键,留下两个历史键供下批继续比较。槽位保存的是生成当时的向量,队列长度与每批入队数共同决定特征会有多旧。
查询编码器接受损失梯度,键编码器通过参数移动平均缓慢跟随。两维参数的连续更新算例把两条更新路径分开,说明平滑参数为何能缓和历史特征漂移,以及它没有改写哪些旧向量。
沿两视图、正键、旧队列、损失和入队走完一次学习,并对照论文与教学代码的移动平均时序。跟踪一条键何时生成、比较和离开,能把共同机制与具体实现顺序区分开。
批内候选、历史字典、投影头和动量编码器是可重新组合的设计。把增强、网络、目标、候选、更新与评价分别列出,就能指出新方法改了哪一段,并理解多项改动共同产生的收益。
在相同检测模型和下游微调协议中,MoCo 预训练的检测 AP 高于人工类别监督起点。原论文对照展示无类别标签的视图学习如何支持检测,同时说明这个成绩包含检测监督下的全层适配。
完整输入直接复制即可完成重建,表示学习因而需要限制可见内容或中间通道。比较离散词典、低维投影、去噪和遮挡,解释各自迫使模型利用什么结构,也帮助排查目标信息泄漏。
四个二维点中,横轴保留较大方差并取得更低重建误差,却合并了纵坐标正负两点。这个可算反例说明重建目标为何有其合理性,也说明未来任务仍需单独评价。
同一可见条件下,隐藏像素等概率为零或一,预测二分之一的平方误差更低。条件均值算例解释模糊补全为何可能符合训练目标,并引出恢复平均值与产生合理样本的区别。
十六块图像只让四块带着原始位置进入编码器,其余像素留在损失端作答案。固定可见位置帮助追踪高遮挡率的真实输入,区分只编码可见块与完整编码后才涂黑图块。
四个位置先打乱、取两项编码,再补入占位并按逆排列归位。逐项数组演算说明恢复坐标与恢复像素是两件事:占位标明待预测位置,真正内容仍需解码器学习补全。
十六块中隐藏十二块时,隐藏块平均损失的分母应为十二。把可见真值拼回展示图会降低整图误差,却没有改善隐藏预测;核对位置集合、像素缩放与归一化才能比较重建成绩。
编码项从十六块减为四块,两两计算项降至原来的十六分之一,但解码与其他计算仍然存在。这个资源账解释稀疏可见输入的价值,也标清稠密卷积教学模型与原 MAE 的计算差别。
已有数字图像实验同时测量重建误差和冻结表示的分类读出,分别显示恢复结构与支持新用途的改善。两张成绩单连接同一编码器,但使用不同目标,避免把补图效果直接当作分类证据。
MAE 原论文中,遮挡预训练为大视觉模型的分类微调提供了有效起点;只微调最后一个块也明显改善线性读出成绩。这些对照说明评价允许改变多少计算,会影响对表示价值的判断。
冻结读出检验既有表示能否被指定函数利用,微调检验起点经过适配后的能力。固定数据划分、标签预算与评价规则,并区分参数、运行统计和梯度开关,才能比较不同使用方式。
同一数字表示始终冻结,只增加标签或改变读出方法,保留准确率就会变化。已有预算对照把编码器学习与标签使用分开,也让不同正则与函数类成为解释读出差异的具体条件。
同一分类起点分别只更新新头、解冻后部或更新全网,再与随机起点比较。已有协议下从零训练获得更低验证损失,这个负结果说明迁移优势要由任务、预算与预定选择规则检验。
背景与标签的关系翻转,可以让源域表现良好的模型在新域失效。受控实验进一步比较零样本、少量标签适配与从零训练,分清适配带来的改善和预训练相对新任务基线的优势。
第一部分提供可迁移起点,第二部分把答案改成对象框、像素类别和实例身份。保留空间表示后仍需区域读取、匹配与任务监督,这条连接说明新用途为什么要求一起改变表示接口与输出结构。
四个互不相同的点完整决定 XOR 标签,却不能被一条直线分开;改用两坐标乘积后,一个零阈值就能读出。精确构造把任务信息、原输入身份与读出能力分开,说明压缩不等于增加信息。
固定教师提供已有模型的软答案,移动平均教师提供学生参数历史的平滑版本。温度改变类别概率的算例说明软目标携带什么关系,再连接停止梯度、预测器与分布处理的不同作用。
模拟学生追问图中哪些键来自旧批次、编码器变化后为何仍能比较。回答沿队列槽位与参数更新两类箭头展开,直接指出移动平均缓和漂移、先进先出替换向量各负责什么。
模拟问答从隐藏像素未知但位置已知出发,解释解码器为什么仍有完整位置列表。区分占位、位置线索和损失端真值,再连接重建后的冻结读出,补上从补图到用途评价的理解桥梁。
两个设备的梯度合并算例比较等大与不等大本地批次,展示同一全局更新为何需要正确加权。它作为第六讲预备阅读,连接状态分片与通信,不作为理解对比学习的前置门槛。
ConvNeXt V2 将遮挡输入的组织方式与通道响应设计共同调整。原论文中两种架构、两种训练路线的对照提供目标与结构联合设计的研究例子,并保留预训练预算不同这一解释条件。
同一双杯场景可交付类别列表、检测框、语义地图和实例地图,分别服务识别、定位、面积与计数。比较这些答案保留的内容及不能唯一反推的部分,明确选择输出格式的依据。
特征图的空间索引决定从哪里读,通道保存该处的多种响应;步长与感受野又描述不同关系。用网格与全局平均的比较,说明定位任务为何关心取表示的位置,而非只关心向量长度。
候选区域被变换成分类网络可处理的小图,已学视觉参数于是能用于区域分类和框修正。追踪局部尺度、上下文与逐区域计算的取舍,并用原论文检测成绩说明分类预训练的迁移价值。
候选区域只提供值得检查的位置,还不是最终对象。两只杯子中若一只从未被候选覆盖,后续分类便受限;候选召回、重复数量与计算成本的比较帮助定位漏检究竟发生在哪一步。
重叠裁剪使用相同参数仍会重复执行卷积;整图共享特征让多个区域复用同一次前向结果。两种计算路径的成本与上下文比较,区分过去参数的迁移和当前中间结果的复用。
大小不同的两个区域都分成二乘二网格,得到同形状却不同数值的区域读出。教学矩阵的逐格最大值说明固定长度接口如何保留相对位置,也为后续非整数边界的采样问题作准备。
每个区域分别产生类别与框偏移,损失再沿各自读出共同更新共享骨干。正例与背景承担不同训练目标,这种组织减少重复卷积,并让外部候选产生成为下一段可改进的计算。
参考框是预设几何起点,候选框是 RPN 的预测,最终框由后级区域头交付,真值只在监督与评价中使用。分清四种矩形身份,才能看见 Faster R-CNN 具体把哪段候选过程变成了学习。
参考框按重叠程度分为正例、背景和忽略项,只有匹配正例承担位置回归。阈值、强制覆盖、空图和难负例采样的例子,解释怎样给每个对象提供训练反馈而不把模糊区域强行标错。
把参考框中心四十、宽四十变为目标中心四十八、宽四十八,能逐项算出归一化中心偏移与对数宽高比。编码后再还原坐标,检验尺度系数、连续边界和预测张量的约定是否相容。
同一杯子的三个预测框按分数排序,在阈值零点五时只保留最高项;另一个蓝杯框继续保留。改变阈值后重复与漏检可能同时变化,说明 NMS 整理预测与真值匹配评价的不同职责。
同样横移一个单位,边长十的框仍有较高重叠,边长二的框却只剩三分之一 IoU。面积算例解释小目标对定位偏差更敏感,并连接错类、漏检、框偏与重复的分项诊断。
两个真值、三个按分数排列的预测依次为命中、重复、命中,可逐步得到精度与召回,并算出 AP 为六分之五。把重复框移到排序末尾的对照,说明分数次序为什么影响整体检测评价。
现有 LAB 10 从合成 RGB 图像学习对象类别和框偏移,已有训练记录覆盖匹配、损失、预测与保留评价。原尺度明显改善而小尺度下降的对照,既展示完整检测闭环,也指出具体失败条件。
同一检测器只放宽 NMS 阈值,已保存结果显示召回补齐、固定工作点精度却大幅下降。新增框中既有对象也有重复,结合分数排序与工作点指标,可以解释为何更多预测没有单一好坏。
FCN 把分类计算改成空间类别分数图,让每个像素接受监督并在原图位置作判断。它与区域检测并行发展,展示可迁移表示怎样通过不同输出头服务面积、边界等像素任务。
每个有效像素的类别提供一项交叉熵,未标注位置从损失和指标中排除。张量形状、忽略标签与图像掩码同步变换的例子,说明训练前必须守住哪几项像素对应关系。
最近邻与双线性改变粗特征的读取位置,跨层连接则引入另一份细层证据。沿对齐、融合到像素预测的流程,区分输出变密和信息来源增加,解释细边界为何需要检查实际特征与任务训练。
已知掩码降采样再放大后,十六个真前景全部命中,却多出八个假前景。由这组计数分别算出前景 IoU、背景 IoU、两类均值与准确率,明确采样练习的输入身份及指标口径。
已有合成分割实验中,十二参数的逐像素颜色基线在清晰图上已足够,模糊后小型 FCN 更稳健。相同输入干预揭示邻域结构真正增加能力的条件,也说明简单基线为何不可省略。
只有百分之一像素属于目标时,全部猜背景也有百分之九十九准确率。再读已有小尺度分割结果中的逐类 IoU 与错误图,可以发现整体高分掩盖的细目标、窄缝和边界问题。
两种不同的杯子实例划分都能映射成同一条杯子类别行,类别图因而不能唯一恢复对象身份。接触与遮挡进一步说明连通域的适用条件,解释为何实例分割需要把区域身份和像素轮廓结合。
同一 RoI 的类别、四个框偏移和二维实例掩码回答不同问题。区域任务头读取共享特征中的局部布局,掩码只标指定对象,即使框内露出另一只同类杯子,也不能把两者混为一个目标。
原图坐标三十五除以步长十六得到连续位置,立即取整会产生三个原图像素的偏移。追踪框边界、分箱和采样点,说明坐标对齐为何重要,并提醒实际库需核对半像素与边界约定。
四个邻点值为零、二、四、六,按横向四分之一、纵向二分之一的位置读取,可得二点五。两次线性插值与四点权重给出同一结果,把几何位置直接对应到 RoIAlign 的局部读数。
同一杯子不动,只改变 RoI 的宽度或位置,它在局部掩码中的比例与坐标就会改变。训练标签裁取和推理映回必须使用同一框,才能保持对象身份、区域特征与像素目标的对应。
原论文在同一骨干与聚合方式下比较 RoIPool、RoIWarp 和 RoIAlign。已有插值但未保留对齐的方案改善较小,而对齐方案提高严格定位成绩,提供坐标读取有效性的正面实证。
左右相反的两张图若都只编码成整体均值,固定相同框和读取器后必然得到相同输出。这个精确碰撞说明复制或插值无法创造已丢失的差别,也区分信息缺失与读取错位两种瓶颈。
在整体均值之外增加左右差通道,两张反向亮列图就得到不同符号,即使空间尺寸仍为一乘一。手算构造说明保留任务统计比单看网格大小更关键,并指出这些统计仍不足以恢复任意图案。
模拟追问把论文中的对齐收益与相同均值无法恢复布局放在一起比较。教师沿已有空间线索、相同输入和新增差分通道分别解释,让学生能指出两种结论成立时各自固定了什么条件。
正点、负点、框和已有掩码分别约束本次想选的区域,但一个点仍可能指向部件或整体。图像编码缓存与轻量提示解码的接口说明交互为何高效,也解释多候选掩码怎样容纳粒度歧义。
MAE 预训练提供视觉起点,图像、目标掩码与模拟提示的训练才建立按提示分割的能力。追踪错误区域追加点、掩码损失和数据生产过程,说明使用时的交互怎样获得训练中的对应练习。
颜色容差、连通域、负点与框能从真实像素产生不同掩码,已有面积变化可由规则逐项解释。这项透明基线让提示的作用可观察,同时明确它没有可学习参数,也没有调用 SAM 权重。
共享特征、区域身份与点框提示已经提供空间接口,自然语言还需建立对象、属性、参照物和关系的对应。把测面积、操作对象与按语言选择对象并列,说明下一部分新增的任务条件是什么。
一阶段检测在网格上直接预测类别和偏移,仍需几何参考、匹配、负例处理与评价。输出数量和排列的算例连接 TinySSD 与单层教学检测器,帮助读懂实验代码而不另开主讲专题。
FCN、U-Net 和 FPN 都连接不同尺度,但送入的信息、对齐方式与服务目标不同。沿细层来源、相加或拼接、预测输出比较这些结构,才能判断一条跳连实际给模型增加了什么。
难例权重改变哪些分类样本贡献更多损失,对象匹配决定预测槽位负责哪项真值。两个概率权重和二乘二成本矩阵的算例,将训练关注度与无序对象对应拆成两个独立问题。
两个预测的空间位置与类别顺序恰好和真值数组相反,逐项构造分类、框距离和重叠成本后,交叉匹配明显更低。练习解释集合对应为何不应依赖数组顺序,也区分匹配成功与检测正确。
空间主线可由同场景四种输出接到坐标对齐和表示碰撞,再按位置或面积需求选择检测、分割中的一项完整实验。公式工作台与轻量规则练习按问题回查,避免必须顺序运行所有 Notebook。
保持两个人和一个球的图像不变,描述、匹配、指代与问答需要不同输入条件、输出和监督。任务对照说明语言可以是答案、学习信号或当前请求,而一个相似度分数不能自动替代这些接口。
视觉特征、文字预测与图文资料在二〇一四至二〇一六年前后形成可复用条件,描述、区域对齐和问答由此各有可测任务。沿公开研究成果理解交汇过程,不把不同系统误排成单线升级史。
图像编码与已有文字共同决定下一词,模型从开始符号持续生成直到结束。两人场景的不同合理描述说明训练学习的是图像条件下的表达分布,并把参考词教学示意与自由生成过程分开。
一句红方块描述的输入与目标错开一位,逐项对应每次允许看到的前缀和待预测词。结束符号承担停止监督,填充符号只为对齐存储;训练真实前缀与推理自身前缀也需要分别评价。
已有小型图像描述模型在正确图像、零像素与错配图像条件下呈现明显不同的整句结果。固定前缀的真实生成说明视觉输入参与了有限任务,同时把新渲染泛化与未见组合泛化分开。
视觉分类器认识零件、文字语料包含名称,并不自动建立何时应在描述中使用该词的联系。DCC 的配对资料缺口说明独立视觉知识和文字知识怎样通过额外迁移机制组合成描述能力。
整图相关性没有指定红衣人、球与持球关系分别对应哪里。区域候选把实体对齐变成可学习对象,改变句子而保持实体框的例子,则进一步区分找到名词与正确绑定关系。
同图换问决定要读取数量、颜色还是关系,同问换图检验答案是否跟随视觉内容。问题先验与成对图像的比较说明 VQA 如何利用两种条件,也区分读取像素与读取已知场景属性。
已有像素问答模型在三种模板任务上使用正确图像,问题单独输入和图像干预则显著改变结果。按每类问题的答案范围计算基线,解释相同总分为何仍可能对应不同的错误来源。
检测器的区域特征与文字预训练的表示提供两种起点,联合目标再学习它们的对应。ViLBERT 的多任务适配展示跨模态表示可以复用,说明向量维度相同与语义接口可用之间还隔着训练。
CLIP 用图文资料中的配对身份构造双编码器学习任务,文字由固定标签名单扩展为对象、属性和动作描述。训练后比较接口可接受新文字候选,让语言参与指定下游任务。
三对单位向量构造出可实现的余弦矩阵,沿图找文和文找图分别计算概率,得到约零点零九五七的双向损失。完整算例明确轴身份、温度和平均方式,不把示意矩阵当作真实模型输出。
零样本用法是不使用当前下游数据集再训练模型,直接用已有编码器比较文字候选。猫狗算例把增加候选、改模板和换图像拆成三种干预,解释点积不变时归一化分数仍会变化。
真实猫照片与固定 CLIP 权重的已有记录显示,增加候选保持猫的余弦却改变其相对分数,删除猫后其他选项成为最高项。模型、图片和预处理身份齐备,结果才可接到后续表示缓存实验。
图像向量不依赖当前文字查询,因此图库可编码一次、查询到来后再比较。二十四张图与十二条查询的工作量和存储算例,区分编码复用、点积搜索及需要重建缓存的条件。
四个相关猫裁剪中命中两个,可以同时得到满分 Hit 和二分之一 Recall;近似检索与精确前三名的重合率又回答另一问题。具体集合算例解释语义命中和索引逼近为何必须分别报告。
分簇索引减少扫描却可能在小图库里增加耗时,查询加权区域则增加条件交互但未必保留左右关系。已有结果把搜索成本、区域聚合和联合编码分开,作为第八讲检索的预备阅读。
网页图文扩大了监督来源,但相关文字未必完整标注画面中的所有对象与关系。区分原始 CLIP 数据、LAION 与 OpenCLIP 的身份,说明收集、过滤与开放实现怎样共同塑造学习机会。
原始 CLIP 的多数据集评价表明,已有图文编码器可通过文字描述指定下游分类任务,而不使用当前下游数据集再训练模型。这项正面迁移证据解释语言接口拓宽了什么,也保留候选和数据覆盖条件。
两张都由左侧人物持球的图,让按持球者颜色判断和只看左侧颜色两条规则同时答对。写出各自预测后,可见现有成功尚未区分机制;更有信息量的下一张图应让两条规则发生分歧。
把持球位置与衣色安排成交叉四格,右侧持球的两格使关系规则和左色规则给出不同答案。逐格预测说明干预怎样增加解释力,同时交代当前镜像素材仍绑定朝向、光照和人物身份。
固定 CLIP 在猫与宇航员左右拼贴上的已有分数暴露了一次关系绑定失败,而持球四格是另一份规则预测表。连同输入与候选核对这些证据,可以把对象匹配成功和细粒度关系局限同时保留。
蓝杯左边的杯子中,蓝杯是参照物,目标还须满足杯子类别与左侧关系。用红杯、蓝杯和书的坐标逐项筛选,解释关键词规则为何错选参照物,以及缺失或多义目标应怎样处理。
已有规则系统从 RGB 像素提取候选框,再按目标、参照物与关系选择对象。遮挡、换色和只改问句的干预展示视觉候选与语言约束各自的作用,并明确它是透明规则而非训练过的 GLIP。
GLIP 把检测类别和短语都接到对象级定位训练,语义匹配同时受到位置目标约束。原论文迁移结果支持开放文字定位接口,而选错对象与轮廓粗糙的对照说明定位和后续分割仍须分开检查。
原始 LLaVA 将一组 CLIP 网格特征经线性投影接入语言模型,传递的是视觉向量而非类别标签。矩阵维度与坐标系类比解释为什么形状接得上还不够,需要训练学会按图使用这些输入。
原始 LLaVA 的对齐阶段只更新投影,指令阶段再更新语言模型,两阶段都冻结视觉编码器。按模块追踪更新范围和回答目标,说明冻结主干仍可学习新的视觉信息使用方式。
原始 LLaVA 的部分指令由图像描述和对象框等文字记录辅助生成,数据制作模型并未直接看图。比较这些记录能支持的问题与仍缺事实的问题,说明丰富任务形式如何依赖可追溯的视觉依据。
SAM 复用 MAE 起点、ViLBERT 复用区域特征、LLaVA 复用 CLIP 视觉编码器,分别连接本讲三条主线。指出已有资产和仍缺对应,能把新研究问题落到数据、接口、目标或评价的具体改动。
同一批次合成数据随机切分时,记批次均值表现很好;整批次留出后,其优势消失。两种基线和两份成绩单把未来预测条件变成可检验问题,解释评价切分如何决定所谓迁移能力的含义。
红杯在木桌上的文字条件仍允许不同杯型、光照和视角,三幅合理图像展示多解性。检索已有图与生成新图需要不同输出过程;接续已经生成文字的 caption,第四讲将进一步研究合理多样性。
同一条件下真实结果只取负一或正一,平方误差最优的确定输出却是从不出现的零。再与正确随机采样比较,说明配对误差不等于分布质量,生成评价还需看条件满足、合理性和多样性。
生成课将比较怎样学习一组可能结果并产生样本,架构、训练反馈和采样方式分别承担不同职责。自回归、GAN、VAE 与扩散作为后续入口,注意力、训练系统和检索则各有对应课程位置。
一棵归一化概率树中,逐步选最高概率得到的完整路径,可能低于保留两个前缀后找到的路径。手算例子解释贪心与束搜索的差别,再把搜索错误和模型对图像的理解错误分开。