线性学习

本节主要包括：线性回归、广义线性回归、逻辑蒂斯回归和多分类学习。
线性学习适合解决连续属性值的问题。

线性回归

1、回归和分类的区别
回归：预测的目标函数是连续值
分类：预测的目标函数是离散值
2、线性回归
给定由m个属性值描述的样本x，得到一个用属性值的线性回归来进行预测的函数。

对于w和b参数的求解采用最小二乘估计，得到解如下：

3、广义线性回归：输入空间到输出空间的函数映射成非线性关系，将线性回归的预测值做一个非线性的函数变换去逼近真实值。

分类学习方法

输出标记为0/1，但线性回归模型产生的预测值是实数值，因此需要将其转化为0/1。
1、单位阶跃函数（在临界点不连续）

2、逻辑斯蒂回归（在临界点连续且单调可微）

3、感知器算法（前提：数据线性可分）
感知器是二分类的线性模型，采用一条直线/平面/超平面将数据样本分为两类，对于误分类的点采用梯度下降的方法来进行优化。
例题：

参考链接：
1.https://www.jianshu.com/p/fbfe531ec233
2.https://blog.csdn.net/drilistbox/article/details/79341381?utm_medium=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.nonecase&depth_1-utm_source=distribute.pc_relevant.none-task-blog-BlogCommendFromMachineLearnPai2-1.nonecase

4、多分类任务
三种情况，逐次减小分类的错误。

落在绿色区域的样本无法获得一个分类，对于三种分类的条件都不满足。