02 从 MLP 到 LeNet：数据、标签和任务：机器学习到底在解决什么问题？

数据、标签和任务机器学习到底在解决什么问题机器学习初学阶段最常见的问题不是公式太难也不是代码太复杂而是很多基础概念彼此之间没有真正连起来。例如数据标签任务模型参数目标函数这些词单独看都不陌生但如果放到同一个框架里仍然容易产生一种模糊感机器学习到底在解决什么问题这个问题如果没有厘清后面的损失函数、梯度下降、反向传播和神经网络训练过程就容易变成概念堆积。相反一旦把数据、标签和任务之间的关系看清楚很多后续内容都会自然顺下来。一、机器学习首先是在处理“输入到输出”的问题从最基础的角度看机器学习解决的是一种映射问题给定一个输入期望得到一个输出通过数据让模型学会这种映射关系例如在手写数字识别任务里输入是一张图片输出是这张图片对应的数字类别在垃圾邮件识别任务里输入是一封邮件输出是“垃圾邮件”或“正常邮件”在房价预测任务里输入是一套房子的多个特征输出是预测价格虽然这些任务形式不同但本质都一样机器学习试图从已有样本中学习一种从输入到输出的规律。这也是为什么机器学习问题通常都会围绕“数据、标签和任务”来定义。二、什么是数据在机器学习中数据指的是模型要处理的输入信息。这个定义看起来简单但很重要。因为“数据”并不只是一张表具体形式取决于任务本身图像任务中的数据是图片文本任务中的数据是句子或文档语音任务中的数据是音频信号表格任务中的数据是一组结构化特征也就是说数据的外在形式可以不同但在机器学习里承担的角色是一致的数据是模型进行判断的依据。以图像分类为例一张图片进入模型之后并不是以“猫”“狗”这种语义形式存在而是以像素值的形式存在。模型后面所有的计算本质上都建立在这些输入数据之上。如果没有数据模型就没有可学习的对象如果数据本身组织得不合理模型也很难学到稳定规律。三、什么是标签如果只有数据没有正确答案模型其实无法判断自己当前的输出到底对不对。这时候就需要标签。标签可以理解为每个样本对应的标准答案。例如一张手写数字图片的标签可能是3一段评论文本的标签可能是“积极”或“消极”一条邮件的标签可能是“垃圾邮件”或“正常邮件”在这个意义上数据和标签是成对出现的数据是输入标签是目标输出这种配对关系非常关键因为模型的学习过程本质上依赖于“比较”模型先根据数据做出预测再把预测结果和真实标签进行比较根据差异调整内部参数如果没有标签模型就缺少了最基本的参照标准也就无法知道自己应该朝什么方向改进。四、什么是任务“任务”描述的是给定什么样的输入希望模型完成什么样的输出。从这个角度看任务其实是在定义问题本身。例如1. 分类任务目标是判断输入属于哪个类别。例如判断一张图片是数字 0 还是 8判断一封邮件是不是垃圾邮件2. 回归任务目标是预测一个连续数值。例如预测房价预测销量预测气温3. 序列任务目标是处理有顺序的数据。例如文本分类机器翻译时间序列预测所以机器学习并不是一套固定算法去处理所有问题而是先要明确输入是什么输出是什么这个问题属于哪类任务只有任务定义清楚模型设计、损失函数选择和训练方式才有基础。五、数据、标签和任务之间是什么关系这三个概念最容易在“分别能理解但放在一起又容易混”的状态中出现。实际上它们的关系可以概括为一句话任务定义了问题数据提供了输入标签提供了标准答案。可以用手写数字识别来具体说明任务判断图片中的数字属于 0 到 9 中的哪一类数据输入的手写数字图片标签每张图片对应的真实数字三者一旦放到同一个框架里问题就会变得非常清楚模型面对的是数据学习目标由标签提供整个过程服务于任务本身。这也是机器学习问题能够被正式表达和训练起来的基础。六、一个最小示例把数据、标签和任务放到同一个例子里下面用一个极小的 Python 示例把这三个概念放在一起看。# 两个特征的简单分类任务data[[1,2],[2,1],[4,5],[5,4]]labels[0,0,1,1]defsimple_model(x):ifx[0]x[1]5:return1return0print(任务根据输入特征判断类别是 0 还是 1\n)forx,yinzip(data,labels):predsimple_model(x)print(f数据:{x}, 标签:{y}, 预测:{pred})输出任务根据输入特征判断类别是 0 还是 1 数据: [1, 2], 标签: 0, 预测: 0 数据: [2, 1], 标签: 0, 预测: 0 数据: [4, 5], 标签: 1, 预测: 1 数据: [5, 4], 标签: 1, 预测: 1这个例子非常简单但已经足够说明三件事data是输入数据labels是每条数据对应的真实类别整个任务是一个二分类问题这里的simple_model()只是一个手工写死的规则不是真正训练出来的模型。真实的机器学习会通过大量数据自动把这种规则学出来而不是人工提前写好。七、为什么“模型到底在解决什么问题”必须先弄清楚因为很多后续概念表面上看是在讲数学或算法实际上都建立在这个基础上。例如损失函数解决的是“模型当前错了多少”梯度下降解决的是“参数应该往哪个方向调整”反向传播解决的是“误差怎样传回前面的层”神经网络解决的是“如何表达更复杂的输入输出关系”这些内容如果脱离“数据—标签—任务”这个基本框架就很容易显得零散。相反只要这个框架明确了就会发现后面的内容都在围绕同一个核心目标展开让模型从数据中学会更准确的输入到输出映射。八、最容易混淆的几个点1. 数据越多机器学习效果就一定越好不一定。数据量很重要但前提是数据质量、标签质量和任务定义都合理。如果数据本身噪声很大或者标签不可靠模型未必能学到真正有效的规律。2. 标签只是附带信息不是核心部分不是。在监督学习里标签是模型学习方向的依据。没有标签就很难判断模型输出是否合理也很难谈训练目标。3. 任务只是一个题目名称也不是。任务不只是“这道题叫图像分类”这么简单它实际上决定了输入形式输出形式模型设计方向评价方式4. 模型一开始就知道该怎么判断不是。模型一开始通常并没有好的判断能力真正发生变化的是训练过程。通过数据和标签模型内部参数才会逐步调整到更合适的状态。九、总结机器学习并不是一个抽象的“让机器变聪明”的过程而是在解决一个非常明确的问题如何根据已有样本学会从输入到输出的映射关系。在这个过程中数据提供输入标签提供标准答案任务定义问题本身这三者共同构成了机器学习问题最基本的框架。只有这个框架明确了模型、参数、目标函数以及后续的训练机制才有清晰的落点。如果把全文压缩成一句话可以概括为机器学习的起点不是模型而是先把数据、标签和任务之间的关系定义清楚。