Lecture 03图像描述学习 $p(yt\mid I,y{<t})$:视觉特征与已有文字一起决定下一词
图像描述学习 $p(yt\mid I,y{<t})$:视觉特征与已有文字一起决定下一词
主线阅读与优先实验
caption历史、VQA、CLIP候选、关系控制、GLIP/LLaVA与生成桥梁
图像描述学习 :视觉特征与已有文字一起决定下一词。训练时配对描述给出目标;推理时从开始符号出发,只能接续自己的输出,直到结束符号。今天先把这条接口看清,循环网络内部留第五讲。
返回图像条件的课堂图。完整的 shifted target、EOS/PAD 和保留集生成对照归并到 CLS 09 · 图像条件输出:描述与问答 与 LAB 13 · 看图生成一句话:训练、解码与消融;本册不复制两份训练说明。
一张图可有多种真实描述。“桌上有杯子”与“左侧红杯靠近书”聚焦信息不同。先说明任务要求概括还是详细描述,再判断遗漏是否构成错误。图像条件怎样进入一个可变长度答案 · 已保存的条件生成实验:视觉输入确实改变了句子。