关于对率回归的求解,梯度下降和解析解相比有什么特点和优势,为什么? 飞机下降梯度定义

• 下降梯度和下降率有什么区别？
• 逻辑回归，解最大似然估计为什么用梯度下降
• 逻辑回归为什么用梯度下降而不是上升
• 什么是梯度下降算法

下降梯度和下降率有什么区别？

梯度是场中的概念，是与空间有关的概念，所以下降梯度是指某处的量随着位置的改变而下降的剧烈程度。而下降率是与时间有关的概念，是指随着时间的推移，下降速度的快慢。

逻辑回归，解最大似然估计为什么用梯度下降

梯度下降是指函数拟合，拟合是不分方向的，因为可以下降一个负梯度，也可以下降一个正梯度呀，这有什么好弄混的

逻辑回归为什么用梯度下降而不是上升

哪里求最大值了？

求的是损失函数的最小值，损失最小，则意味着模型预测的结果和实际的情况非常接近(暂不考虑因模型泛化需要，而设置的惩罚项的影响）。这个时候，求损失函数的最小，则可以转化为求一个凸函数的极小值。梯度下降这种近似求解方法就是适合这种场景了

什么是梯度下降算法

梯度下降是迭代法的一种，梯度下降法是一个最优化算法，通常也称为最速下降法。最速下降法是求解无约束优化问题最简单和最古老的方法之一，常用于机器学习和人工智能当中用来递归性地逼近最小偏差模型。

梯度下降法的计算过程就是沿梯度下降的方向求解极小值（也可以沿梯度上升方向求解极大值）。