d2l 学习笔记:引言
核心概念 《动手学深度学习》(d2l) 引言部分笔记,涵盖机器学习核心概念和深度学习应用场景。
1. 基础数据相关术语
- 样本(sample):一条独立观测数据,如一台服务器某时刻监控、一张图片、一行日志
- 特征(feature):描述样本的属性指标,如CPU使用率、内存、像素值
- 特征向量(feature vector):把单个样本所有特征按顺序拼成固定长度数字数组
- 维数/维度(dimensionality):特征向量固定长度,代表该样本有多少个特征
- 标签(label):监督学习中样本对应的真实结果,如0=正常、1=异常、图片分类“猫”
- 数据集(dataset):大量样本的集合,分为训练集、验证集、测试集
- 训练集:用来更新模型参数,让模型学习规律
- 验证集:训练中评估效果、调整超参数,防过拟合
- 测试集:训练完成后仅使用一次,衡量模型真实泛化能力
2. 模型相关核心术语
- 模型(model):特征到预测值的数学映射函数,神经网络、线性回归都属于模型
- 参数(parameter):模型内部可自动学习的数值(权重w、偏置b),存储模型学到的规律,训练中梯度下降自动更新
- 超参数(hyperparameter):人工提前设定、训练不会自动更新的配置,如学习率、网络层数、batch大小
- 预测值(prediction):输入特征后模型输出的计算结果
- 损失函数(loss function):衡量预测值与真实标签的差距,差距越大损失越高,是更新参数的依据
3. 训练与优化术语
- 训练(train / fit):用训练集数据不断调整参数,最小化损失函数的全过程
- 梯度下降(gradient descent):核心优化算法,沿着损失减小的方向迭代更新参数
- 迭代/轮次(epoch):完整遍历一遍全部训练集样本称为1个epoch
- 泛化(generalization):模型在从未见过的新样本上依然准确预测的能力
- 过拟合(overfitting):模型死记训练集细节,新未知样本预测效果差,泛化能力弱
4. 任务分类术语
- 监督学习(supervised learning):数据集同时有特征+人工标签,如异常分类、房价预测
- 无监督学习(unsupervised learning):只有特征、无标签,模型自动挖掘数据规律,如日志聚类
- 回归任务:输出连续数字(预测未来CPU占用、流量数值)
- 分类任务:输出离散类别(区分正常/故障、区分猫狗图片)
关联文档