← 返回课程目录 · 第 12 课 / 共 14 课 · 基础补全模块(零基础建议最先读)

机器学习全景

AI、机器学习、深度学习、强化学习——四个天天混用的词,一张图分清。以及:机器学习的三种"学习方式"和最核心的几个理论概念。

一、点圈看定义:谁包含谁

记忆口诀:AI 是愿景,机器学习是实现路径,深度学习是其中一种技术,强化学习是一种学习范式——它可以和深度学习结合(深度强化学习,AlphaGo / RLHF 都是)。

二、三种学习范式:给场景选方法

机器学习(不管用什么模型)按"从什么反馈中学习"分三大范式。给下面 4 个真实场景选范式,选完点「判卷」:

① 银行有 10 万条历史贷款记录(标注了"违约/未违约"),要预测新申请人会不会违约。
② 手里有 100 万条用户消费记录,没有任何标签,想把用户分成几类做运营。
③ 训练一个程序下围棋:只告诉它规则和胜负,让它自己下、自己总结。
④ 让大模型学会"回答得更符合人类偏好"——人对两个回答排序,模型据此改进。

④ 是个陷阱题:RLHF 里的"偏好排序"本质是给强化学习提供奖励信号——所以归强化学习族(第 11 课展开)。

三、核心理论概念(全系列通用)

泛化(Generalization)

模型在没见过的数据上表现好,才叫学到了——在训练数据上刷高分不算。

🧠 类比:背题库考满分 ≠ 会做题。一切训练技巧都为泛化服务。

训练 / 验证 / 测试集

训练集调参、验证集选模型、测试集只许最后碰一次——提前偷看测试集,成绩就是自欺欺人。

🧠 类比:作业 / 模拟考 / 高考。

损失函数

量化"预测和正确答案差多远"的尺子。分类用交叉熵,回归用均方误差——第 2 课训练循环里那个 loss 就是它。

🧠 类比:KPI 里的偏差度量。选错尺子=优化错方向。

过拟合 / 欠拟合

过拟合:训练分高、测试拉胯(死记硬背);欠拟合:训练都学不会(能力不足)。下一课亲手调出来看。

🧠 类比:背题背到原题都会、换题就废 = 过拟合。

六、小测验

Q1 · 深度学习和机器学习的关系是?

Q2 · "没有标签的数据做分群"属于?

Q3 · 验证集(Validation Set)的作用是?

延伸阅读