机器学习： 对计算机一部分数据进行学习，然后对另外一些数据进行预测与判断

① 训练集： 作用：估计模型 学习样本数据集，通过匹配一些参数来建立一个分类器。建立一种分类的方式，主要是用来训练模型的

② 验证集： 作用：确定网络结构或者控制模型复杂程度的参数 对学习出来的模型，调整分类器的参数，如在神经网络中选择隐藏单元数。验证集还用来确定网络结构或者控制模型复杂程度的参数。

③ 测试集： 作用：检验最终选择最优的模型的性能如何 主要是测试训练好的模型的分辨能力（识别率等）

补充说明：

主动学习： 学习算法通过标记数据从未标记数据中筛选出很有价值的数据给专家标注，并进行训练。但需要引入专家进行交互标注 半监督又分为纯半监督学习和直推学习:

① 纯半监督学习： 预测的数据是训练集之外的为观测数据 ② 直推学习： 预测的数据是训练集中的未标记数据

共同点： 它们都是利用少量的标注样本和大量的未标注样本进行训练和分类的问题 自学习（半监督学习的典例）：

查全率： 真实正例被预测为正例的比例 真正例率： 真实正例被预测为正例的比例

显然，查全率 = 真正例率

查准率： 预测为正例的实例中真实正例的比例 假正例率： 真实反例被预测为正例的比例

两者并没有直接的数值关系

说明： 由 PR 曲线引出 F1-score 指标，度量来平衡查准率 P 和查全率 R，在第 8 个考点中有提及

ROC 曲线的纵坐标和横坐标分别为真正例率和假正例率(图摘自知乎)： 根据学习器的预测结果对样例进行排序，按此顺序逐个把样本作为正例进行预测，每次计算引出两个重要量的值，分别以它们为横纵坐标作图，就得到了 “ ROC曲线 ”

回归： 通常是预测一个值，是对真实值的一种逼近预测 分类： 给事务打上一个标签，通常结果为离散值，正确结果只有一个没有逼近的概念

以下是它们之间的联系、区别和对应的算法：

关于上边提到的几种回归的补充说明：

1、准确率（Accuracy）： 表示正确分类的测试实例的个数占测试实例总数的比例，计算公式为： 2、精确率（Precision）： 也叫查准率，表示正确分类的正例个数占分类为正例的实例个数的比例，计算公式为： 3、召回率（Recall）： 也叫查全率，表示正确分类的正例个数占实际正例个数的比例，计算公式为： 4、F1-score ： 基于召回率（Recall）与精确率（Precision）的调和平均，即将召回率和精确率综合起来评价，计算公式为【更接近于两个数较小的那个，所以精确率和召回率接近时， 值最大，很多推荐系统的评测指标就是用F值的】:

1、平均绝对值误差（MAE）： 表示预测值和观测值之间绝对误差的平均值

2、均方误差（MSE）： 表示参数估计值与参数真值之差平方的期望值

3、均方根误差（RMSE）： 表示预测值和观测值之间差异的样本标准差。均方根误差为了说明样本的离散程度。做非线性拟合时，RMSE越小越好

试述将线性函数 f(x)=wTx 用作神经元激活函数的缺陷(来源于简书)

偏差： 度量了学习算法预测与真实结果的偏离程度，即刻画了学习算法本身的拟合能力 高偏差（欠拟合）： 训练误差和验证误差十分接近，但很大 应对方法： 引入