什么叫做回归呢?举个例子,我们现在有一些数据点,然后我们打算用一条直线来对这些点进行拟合(该曲线称为最佳拟合曲线),这个拟合过程就被称为回归。
利用Logistic回归进行分类的主要思想是:
根据现有数据对分类边界线建立回归公式,以此进行分类。
这里的”回归“一词源于最佳拟合,表示要找到最佳拟合参数集。训练分类器时的嘴阀就是寻找最佳拟合曲线,使用的是最优化算法。
基于Logistic回归和Sigmoid函数的分类 |
优点:计算代价不高,易于理解和实现
缺点:容易欠拟合,分类精度可能不高
使用数据类型:数值型和标称型数据
Sigmoid函数:
波形如下:
当z为0时,值为0.5,当z增大时,g(z)逼近1,当z减小时,g(z)逼近0
Logistic回归分类器:
对每一个特征都乘以一个回归系数,然后把所有结果都相加,再讲这个总和代入Sigmoid函数中,从而得到一个范围在0-1之间的数值。任何大于0.5的数据被分为1,小于0.5的数据被分为0.因此Logistic回归也被看成是一种概率分布。
分类器的函数形式确定之后,现在的问题就是,如何确定回归系数?
基于最优化方法的最佳回归系数确定 |
Sigmoid函数的输入记为z,由下面公式得出:
如果采用向量的写法,则上述公式可以写成:
其中向量X就是分类器的输入数据,向量W也就是我们要找到的最佳参数,从而使分类器尽可能更加地精确。接下来将介绍几种需找最佳参数的方法。
梯度上升法 |
梯度上升法的基本思想:
要找到某函数的最大值,最好的方法是沿着该函数的梯度方向寻找
这里提一下梯度下降法,这个我们应该会更加熟悉,因为我们在很多代价函数J的优化的时候经常用到它,其基本思想是:
要找到某函数的最小值,最好的方法是沿着该函数的梯度方向的反方向寻找
函数的梯度表示方法如下:
移动方向确定了,移动的大小我们称之为步长,用α表示