Lecture 03 学习讲义
正文
工具
按问题查找
学习信号与表示训练留下什么,训练答案又从哪里来?

组织人工判断,也能重设计训练题目

解释、算例与证据

P04 · 同一个瓶颈,两种研究与产业选择

人工判断的组织和数据自带目标是对监督供给的两种回应。本页提供研究与产业选择的共同背景。

P04 学习表示机制图,状态 1P04 学习表示机制图,状态 12016 · YC 同期访谈Scale:把人工任务组织成可调用服务Lucy Guo · Alexandr Wang任务请求人员组织 / 质量控制数据抽取 · 电话 · 分类监督供给的两种选择改善人的判断供给从已有数据构造部分目标可以结合

2016年Scale的请求、人员组织与质量控制、人工任务结果流程,下方并列人工供给和数据自构目标。

  • 2016 · YC 同期访谈
  • Scale:把人工任务组织成可调用服务
  • Lucy Guo · Alexandr Wang
  • 任务请求
  • 人员组织 / 质量控制
  • 数据抽取 · 电话 · 分类
  • 监督供给的两种选择
  • 改善人的判断供给
  • 从已有数据构造部分目标
  • 可以结合
2016年Scale的请求、人员组织与质量控制、人工任务结果流程,下方并列人工供给和数据自构目标。 查看对应图解状态
查看完整图解

课堂讲述

Scale 的早期故事可以放在这个问题里理解。2016 年对 Alexandr Wang 和 Lucy Guo 的同期访谈,谈的是把人工任务组织成可以调用的服务。这里面不是只有“找人做标注”,还有任务怎样拆、质量怎样管、需求怎样被接住。 另一条路线则在问:能不能改变学习目标,少依赖专门为这次任务逐条制作的答案?这两条路线并不互相取消。自监督预训练以后,我们仍可能需要人工标注来适配任务、检查错误,或者形成更高质量的数据。 这个故事值得记住的不是公司后来值多少钱,而是一个研究问题的现实来源:当某种学习方式遇到瓶颈,我们既可以改善生产过程,也可以改变学习问题本身。

监督供给的两种回应

独立阅读

一条回应是改善人工判断的组织:把任务拆分,提供一致界面,路由给合适人员,再做质量检查。2016年的 Scale 同期访谈介绍了通过接口组织人工任务的服务思路;这里用这个公开事实说明监督不仅是算法输入,也是一项生产过程。

另一条回应是改变训练题目。例如原文已有下一个词,图像已有被遮住的像素,同一原图可以产生两种视图。这些目标无需逐项写新的类别答案,但任务设计、数据选择和数据产生本身仍有人类投入。

两条路线可以并存:自监督先学可复用表示,再用少量精确标注适配检测或分割;人工数据也可以帮助评价自监督表示。这里不需要推断企业创始人的个人动机,更不使用估值来论证方法价值。真正的问题是:哪些答案仍需人来定义,哪些训练约束可以由数据结构提供?

沿这个问题继续

读2016年同期访谈的服务机制即可;随后读P5的具体文本例子,无须扩展企业估值。

这条线索的展开与后续阅读