机器学习(New Optimization)

前言：
学习资料

video	ppt	blog

---

下面的PPT里面有一些符号错误，但是我还是按照PPT的内容编写公式，自己知道符号表示什么含义就好了

Notation

符号	解释
${\theta }_t$	第 t 步时，模型的参数
$\Delta L(\theta )$ or $g_t$	模型参数为${\theta }_t$ 时，对应的梯度，用于计算 ${\theta }_{t+1}$
$m_{t+1}$	从第 0 步到第 t 步累计的momentum，用于计算${\theta }_{t+1}$

​

---

On-line VS Off-line

• On-line：每次参数更新，只给一对 ( $x_t$ , $y_t$ )
• Off-line：每次更新参数，考虑所有的训练资料

---

常用优化算法

intention:

• Find a 𝜃 to get the lowest ${\sum }_{x}L(\theta ;x)$ !!
• Or, Find a 𝜃 to get the lowest $L(\theta )$ !!

1. 随机梯度下降法（SGD，Stochastic gradient descent）

算法思想：少量多次

• GD算法进行梯度更新的时候，一般都使所有数据训练完成以后才进行一次更新，每一次都是对参数进行一大步的更新
• SGD算法每次选取其中的一个样本进行梯度的计算，然后再进行参数的更新，每一次都是对参数进行一小步的更新

注意

• SGD随机梯度下降本质是只取一个样本来计算梯度，避免了梯度下降用全部样本计算梯度的大量运算，而在上面的代码里的loss.backward()会使用全部样本来计算梯度，可以去看看这个问答
• 先在的主流框架中所谓的SGD实际上都是Mini-batch Gradient Descent (MBGD，亦成为SGD）。对于含有N个训练样本的数据集，每次参数更新，仅依据一部分数据计算梯度。小批量梯度下降法既保证了训练速度，也保证了最后收敛的准确率。

图解：

---

2. SGD with Momentum (SGDM)

算法思想：在SGD的基础上，考虑前一次更新的梯度。

• 将前面的梯度考虑在内，防止出现局部最优解
• Local Minimum，此时的gradient是0，但是不是全局最优解，如果我们考虑前面的梯度的history，那么他会继续优化前进，达到更好的效果

算法：

• 参数：${\theta }^t$
• 梯度：$\Delta L({\theta }^t)$
• 移动：
  • $v^0=0$
  • $v^{t+1}=\lambda v^t+\eta \Delta L({\theta }^t)$
• 参数更新：${\theta }^{t+1}={\theta }^t+v^{t+1}$

Movement not just based on gradient, but previous movement
图解：

Why momentum?

• Momentum即动量，它模拟的是物体运动时的惯性，即更新的时候在一定程度上保留之前更新的方向，同时利用当前batch的梯度微调最终的更新方向。这样一来，可以在一定程度上增加稳定性，从而学习地更快，并且还有一定摆脱局部最优的能力
• 防止局部最优解
• 在进入梯度为0的地方，并不会马上停下来，而因为gradient of previous 而继续前进

---

3. Adagrad

算法思想：根据所有的梯度自行调整学习率，使得模型在较短的时间内达到较好的收敛效果
算法：
$${\theta }_t={\theta }_{t-1}-\frac{\eta }{\sqrt{{\sum }_{i=0}^{t-1}(g_i{)}^2}}{g}_{t-1}$$
优缺点：

• 优点：
  • 自适应学习率，根据每个参数的历史梯度信息调整学习率，有助于更稳定地收敛。
  • 不需要手动调整学习率，适应不同参数的更新频率。
  • 适用于稀疏数据，对出现频率较低的参数使用较大的学习率。
• 缺点：
  • 学习率逐渐减小可能导致学习率过小，使得模型停止学习或更新过于缓慢。
  • 对非凸优化问题可能表现不佳，难以跳出局部最小值。
  • 内存开销较大，对大规模模型和数据集可能不适用。

图解：

---

4. RMSProp（Root Mean Square Propagation）

算法思想：实现学习率的自动更新

• 用微分平方移动加权平均解决了vt一直增大，防止在t很大以后，系数太小，无法走出去的问题。vt如果是前t个gradient的平方和，分母会永无止境的增加。
• 与Adagrad一致，但解决了Adagrad的缺点

算法：

• $v_1=g_0^2$
• $v_t=\alpha v_{t-1}+(1-\alpha )g_{t-1}^2$
• ${\theta }_t={\theta }_{t-1}-\frac{\eta }{\sqrt{v_t}}{g}_{t-1}$
• $\alpha$：衰减因子（一般取值较接近1，如0.9）

优缺点：

• 优点：
  • 自适应学习率，可以在训练过程中调整学习率，有助于稳定收敛。
  • 解决Adagrad的学习率衰减问题，避免学习率过小导致停止学习。
  • 在非凸优化问题中表现良好，有助于跳出局部最小值。
  • 适用于大规模模型和数据集，内存开销较小。
• 缺点：
  • 学习率仍可能衰减过快，导致收敛较慢。
  • 对于不同问题，对超参数敏感，需要调参。
  • 不适用于稀疏数据。

图解：

---

5. Adam（Adaptive Moment Estimation）

算法思想：将SGDM与RMSProp合在一起使用
算法：

• $$m_t={\beta }_1{m}_{t-1}+(1-{\beta }_1)g_t(1)$$
• $$v_t={\beta }_2{v}_{t-1}+(1-{\beta }_2)g_t^2(2)$$
• $${\hat{m}}_t=\frac{m_t}{1-{\beta }_1^t}(3)$$
• $${\hat{v}}_t=\frac{v_t}{1-{\beta }_2^t}(4)$$
• $${\theta }_t={\theta }_{t-1}-\frac{\eta }{\sqrt{{\hat{v}}_t+\epsilon }}{\hat{m}}_t(5)$$

注解：

• 公式(1)取自SGDM算法，保留了Momentum即动量，它模拟的是物体运动时的惯性，即更新的时候在一定程度上保留之前更新的方向，同时利用当前batch的梯度微调最终的更新方向。
  • $m_t$是本次的Momentum
  • $m_{t-1}$是上一次的Momentum
  • $g_t$是本次的梯度
  • ${\beta }_1$是超参数，默认为0.9。通过修改这个参数实现前面动量对后面动向的影响。
  • ${\beta }_1$看起感觉只考虑了0.1的本次梯度，考虑了0.9的历史梯度，但本次梯度会在下次更新时被考虑进来。
• 公式(2)取自RMSProp算法，${\beta }_2$是超参数，默认0.999。
• 公式(3)和(4)是分别对$m_t$和$v_t$进行了放大，而且是放大得越来越少。
  • 注意:Adam算法中的矩变量（一阶矩估计m和二阶矩估计v）在训练的初期可能会有偏差。这是因为在初始时，这些变量会被初始化为零，导致它们在训练初期偏向于较小的值。
• 公式(5)是我们最后更新的公式，分母加入$\epsilon$是为了防止分母为0，一般很小，默认$10^{-8}$.
• 矩：通过这种方式，Adam算法能够更快地收敛并避免陷入局部最小值。
  • 一阶矩变量m类似于动量的作用，有助于平滑梯度更新方向；
  • 二阶矩变量v类似于RMSProp的作用，对历史梯度平方进行衰减，适应不同参数的更新频率。

优缺点：

• 优点：
  • 自适应学习率，稳定收敛，适应不同参数的更新频率。
  • 综合了动量和自适应学习率，高效优化模型参数。
  • 适用于稀疏数据和大规模模型，内存开销较小。
• 缺点：
  • 对非平稳目标函数可能不稳定。
  • 对超参数敏感，需要调参。

图解：

Adam VS SGDM

• Adam：fast training, large generalization gap, unstable
• SGDM：stable, little generalization gap, better convergence

Update Of Adam Alogrithm

Introduction: Adam算法是一种结合了动量（momentum）和自适应学习率的优化算法，广泛用于深度学习模型的训练。虽然Adam在很多情况下表现出色，但在某些情况下可能存在一些问题。因此，研究人员提出了一些改进版本的Adam算法，旨在克服其一些缺点并提升性能。以下是一些对Adam算法的改进：

1. AdaBound: AdaBound算法是对Adam算法的改进，主要解决Adam在训练后期可能出现学习率过大导致震荡或不稳定的问题。它引入了学习率上下界的概念，并通过收缩学习率的方式在训练后期更好地控制学习率的大小。
2. Nadam: Nadam（Nesterov-accelerated Adaptive Moment Estimation）算法是对Adam算法的扩展，结合了Nesterov动量和Adam的特性。Nadam在更新参数时采用了带有Nesterov动量的梯度，这样可以更准确地估计梯度并更快地收敛。
3. RAdam: RAdam（Rectified Adam）算法是对Adam算法的改进，解决了Adam在训练初期可能出现梯度估计不准的问题。RAdam在梯度估计的前期进行修正，使得训练更加稳定。
4. SGD + Momentum: 一些研究人员发现，在某些任务上，使用传统的SGD优化器配合动量（Momentum）可以获得更好的性能。SGD + Momentum算法结合了SGD的简单性和动量的稳定性，对于一些任务可能是一个有竞争力的选择。
5. Lookahead: Lookahead算法是一种优化器的加速器。它将一个“慢速”的优化器和一个“快速”的优化器结合在一起。Lookahead优化器跟踪“慢速”优化器的状态，并周期性地更新“快速”优化器的状态。这样，Lookahead算法可以更快地收敛并且比许多传统的优化器表现更好。

这些改进的算法都是在Adam算法的基础上进行的改进，以满足不同任务和场景下的优化需求。选择合适的优化算法取决于具体的任务、模型结构和数据集特性。在实际应用中，建议通过实验和交叉验证来选择最适合你的深度学习模型的优化算法。

---

6. AMSGrad（Adaptive Moment Estimation with Slower Learning Rates）

算法思想：与Adam算法基本一样（Adam算法的优化）
调整：二阶矩变量（自适应学习率）
$${\hat{v}}_t=max({\hat{v}}_{t-1},v_t)$$
在对二阶矩变量进行纠正之前，先与前一次纠正后的二阶矩变量进行大小比较，直接赋值给纠正后的二阶矩变量，然后在对纠正后的二阶矩变量再进行纠正
算法：

• $$m_t={\beta }_1{m}_{t-1}+(1-{\beta }_1)g_t(1)$$
• $$v_t={\beta }_2{v}_{t-1}+(1-{\beta }_2)g_t^2(2)$$
• $${\hat{v}}_t=max({\hat{v}}_{t-1},v_t)(3)$$
• $${\hat{m}}_t=\frac{m_t}{1-{\beta }_1^t}(4)$$
• $${\hat{v}}_t=\frac{{\hat{v}}_t}{1-{\beta }_2^t}(5)$$
• $${\theta }_t={\theta }_{t-1}-\frac{\eta }{\sqrt{{\hat{v}}_t+\epsilon }}{\hat{m}}_t(6)$$

优缺点：

• 优点：
  • 防止学习率过大，更稳定地收敛。
  • 适用于不同问题，在某些复杂的优化问题中表现优于Adam算法。
• 缺点：
  • 需要额外的存储开销，可能增加内存需求。
  • 需要调参，同样需要调节学习率和衰减因子等超参数。

图解：

---

7. SWATS（Simply combine Adam with SGDM）

算法思想：将Adam算法和SGDM（随机梯度下降法与动量）算法简单地结合在一起的优化算法。

• 在SGDM中，动量被用来加速优化过程，通过将上一次的更新的一部分加到当前的更新中，帮助算法在某个方向上“保持运动”，从而加快收敛速度。
• Adam算法结合了自适应学习率和动量的优点。它根据历史梯度信息为每个参数自适应地调整学习率，从而在不同场景下实现更高效的优化。
• 在SWATS算法中，利用Adam的快速收敛和自适应学习率优势来加速初始训练，然后切换到SGDM来保持训练的稳定性和收敛性。通过这样做，算法可以充分利用Adam对每个参数使用不同学习率的能力，以及SGDM的加速特性。

图解：

注意：
SWATS算法最重要的在于两点，算法转换时机和学习率调整

1. 算法转换时机：
   一般来说，其转换时机是基于训练的迭代次数。具体来说，算法将在事先设定的一个迭代次数阈值上进行切换。这个阈值是一个超参数，可以根据任务和数据集的特性进行调整。在训练的初始阶段，SWATS使用Adam(fast)进行快速收敛，然后在达到设定的迭代次数阈值后，自动转换为SGDM以继续训练并稳定收敛。
2. 学习率调整：
   在算法转换时，SWATS还需要调整学习率以适应SGDM的优化方式。通常情况下，学习率在切换到SGDM后会相对减小。学习率的调整方式可以采用线性或指数衰减等策略，也可以根据具体的任务和数据集来进行自定义调整，其中涉及到的衰减速率或衰减系数就是超参数。这些超参数控制了学习率的调整方式和速率，直接影响算法在训练过程中学习的效果和模型的收敛性。。调整学习率的目的是为了在切换优化器后保持训练的稳定性，避免过大的学习率导致模型在参数空间中发生震荡或不稳定。

---

8. RAdam（Rectified Adam）

这个算法确实看不懂
算法思想：在训练初期，由于梯度信息较少，Adam算法的一阶矩估计（m）可能不准确，导致学习率的自适应调整不够稳定。
算法：

1. 初始化：设置学习率$\alpha$，一阶矩估计的衰减因子${\beta }_1$和二阶矩估计的衰减因子${\beta }_2$，并初始化一阶矩变量$m$和二阶矩变量$v$。
2. 计算梯度：计算当前迭代的梯度$$g_t={\nabla }_{\theta }L(\theta )$$
3. 更新一阶矩变量：计算一阶矩估计$$m_t={\beta }_1{m}_{t-1}+(1-{\beta }_1)g_t$$
4. 更新二阶矩变量：计算二阶矩估计$$v_t={\beta }_2{v}_{t-1}+(1-{\beta }_2)g_t^2$$
5. 计算修正后的一阶矩估计：计算修正后的一阶矩估计$${\hat{m}}_t=\frac{m_t}{1-{\beta }_1^t}$$
6. 计算修正项$\rho$：计算$$\rho =\sqrt{\frac{(2-{\beta }_2^t)}{(1-{\beta }_2^t)}}$$
7. 计算修正后的学习率：计算修正后的学习率$$l{r}_t=\alpha \rho$$
8. 计算RAdam更新量：如果${\hat{v}}_t=\max ({\hat{v}}_{t-1},v_t)$，则$$r_t=\frac{l{r}_t{\hat{m}}_t}{\sqrt{{\hat{v}}_t}+ϵ}$$，否则$$r_t=\frac{l{r}_t{m}_t}{\sqrt{v_t}+ϵ}$$
9. 更新参数：${\theta }_t={\theta }_{t-1}-r_t$

优缺点：

• 优点：
  • 稳定性改进：修正学习率在训练初期的偏差，提高了算法的稳定性，更容易收敛。
  • 自适应学习率：无需手动调节学习率，算法能够自适应地调整学习率。
  • 高效：在大规模模型和数据集上具有较快的收敛速度。
• 缺点：
  • 适用性限制：对于某些问题可能不如其他优化算法效果好。
  • 需要额外存储开销：算法需要额外存储梯度平方估计的历史信息，增加一些内存开销。
  • 需要调参：虽然不需手动调节学习率，但仍需调节其他超参数以获得最佳性能。

RAdam VS SWATS

9. AdaBound

算法思想：AdaBound算法是对Adam算法的改进，主要解决Adam在训练后期可能出现学习率过大导致震荡或不稳定的问题。
算法：

• $$g_t={\nabla }_{\theta }L(\theta )$$
• $$m_t={\beta }_1{m}_{t-1}+(1-{\beta }_1)g_t$$
• $$v_t={\beta }_2{v}_{t-1}+(1-{\beta }_2)g_t^2$$
• $${\hat{m}}_t=\frac{m_t}{1-{\beta }_1^t}$$
• $${\hat{v}}_t=\frac{v_t}{1-{\beta }_2^t}$$
• $${\eta }_{lower}={\eta }_{final}\cdot \left(1-\frac{1}{\gamma \cdot t+1}\right)$$
• $${\eta }_{upper}={\eta }_{final}\cdot \left(1+\frac{1}{\gamma \cdot t}\right)$$
• $${\eta }_t=\eta \cdot \min \left(\frac{\max (ϵ,\sqrt{\hat{v}})}{\sqrt{\hat{m}}+ϵ},\eta upper\right)$$
• $${\theta }_t={\theta }_{t-1}-{\eta }_t\cdot \frac{\hat{m}}{\sqrt{\hat{v}}+ϵ}$$

学习率下界${\eta }_{lower}$的计算公式，是为了实现AdaBound算法的具体逻辑，但并不直接用于修正后的学习率的计算。
解释：
AdaBound算法中有以下超参数：

1. 初始学习率（$\eta$）：优化算法开始时的学习率，控制模型在训练初期的更新步长。
2. 最终学习率（${\eta }_{final}$）：学习率的最终上界，用于控制学习率在训练后期的收敛速度和稳定性。
3. ${\beta }_1$：Adam优化算法中一阶矩估计的衰减率，通常取值为0.9。
4. ${\beta }_2$：Adam优化算法中二阶矩估计的衰减率，通常取值为0.999。
5. $ϵ$：避免除以零的小常数，用于增加数值稳定性，通常取一个很小的值，比如1e-8。
6. $\gamma$：收缩速度的超参数，用于控制学习率的收缩速度，通常取值在0.1到0.3之间。

10. Improving SGDM

Towards Improving SGD

1. Adaptive learning rate algorithms：dynamically
   adjust learning rate over time
2. SGD-type algorithms：fix learning rate for all updates…
   • too slow for small learning rates
   • bad result for large learning rates

LR range tes
基本思想是在一系列不同的学习率下训练模型，并观察损失函数或准确率随着学习率的变化而变化的情况。通过绘制学习率和损失函数（或准确率）之间的关系图，可以获得一个学习率和训练损失之间的曲线，称为"学习率-损失曲线"（Learning Rate vs. Loss Curve）。

Cyclical Learning Rate (CLR) 是一种优化算法，它在训练过程中通过调整学习率来帮助模型更好地收敛。CLR的核心思想是让学习率在一个较大范围内周期性地变化，从而在训练过程中跳出局部最优解，避免陷入到某个特定的局部最小值。CLR包含以下主要超参数：

1. 学习率范围测试（LR range test）：在训练开始时，首先进行一个学习率范围测试，逐渐增大学习率，并观察模型的损失或准确率随着学习率的变化情况。这样可以找到一个合适的学习率范围，用来作为后续CLR算法中学习率的上下界。
2. Step Size：CLR中的一个超参数，表示学习率周期性变化的步长。具体来说，每经过几个epochs，学习率就会变化一次。这个参数影响了CLR的周期性变化频率。
3. 最小学习率（Minimum Learning Rate）：学习率在周期性变化中的最小值。在学习率变化的过程中，学习率会周期性地在上下界之间变化，而最小学习率限制了学习率的最小值，确保学习率不会降得太小。

Cyclical Learning Rate允许学习率在一个较大的范围内变化，这种周期性的学习率调整能够在训练过程中跳出局部最优解，帮助模型更好地探索全局最优解的方向。这种方法通常在深度学习模型的训练中能够获得更好的泛化性能和更快的收敛速度。不过需要注意的是，CLR的参数选择和学习率范围测试都是关键的步骤，需要通过实验进行调整来找到最佳的超参数设置。

---

warm-up
在初始阶段，graident可能会很不稳定。
在深度学习中，“Warm-up”（预热）通常指的是一种学习率策略。在训练神经网络时，优化器通常使用学习率（learning rate）来控制参数更新的步长。学习率越大，参数更新的步子就越大，训练过程中可能会更快地收敛，但同时也可能导致不稳定或发散的情况。
预热（Warm-up）的目的是在训练刚开始的时候，使用一个较小的学习率，然后逐渐增加学习率到最终设定的值。这样做的好处是在训练初期，模型有机会更好地探索参数空间，有利于稳定地开始训练过程。
预热通常在训练的前几个epochs中应用，并且学习率逐渐增加，直到达到设定的最终学习率。一旦预热阶段完成，优化器将使用设定的最终学习率来继续训练模型。
预热（Warm-up）是一种训练策略，通过逐渐增加学习率，帮助模型在训练开始时更好地收敛和学习。

下面是没有做预热的情况，在开始阶段由于gradient不稳定出现暴走

RAdam算法就是经过预热以后的Adam算法

---

11. Lookahead（universal wrapper for all optimizers）

算法思想：k step forward, 1 step back
"k steps forward, 1 step back"意味着在进行k步的快速权重更新（使用快速优化器）后，进行1步的参数回滚（使用慢速优化器）。这个回滚步骤使得慢速优化器能够在参数空间中跟随快速优化器的前瞻探索，从而确保稳定的收敛。
>

---

12. Nadam（超前预测）

算法思想：在Adam算法的基础上，引入Nesterov动量来更好地更新参数。

Nesterov动量

在传统的动量算法中，参数更新是根据当前梯度的方向和当前动量的方向来进行的。动量算法使用过去的梯度信息来调整参数更新方向，以加速收敛。然而，这种方法可能导致在参数更新过程中出现较大的摆动，特别是在参数空间中曲折或窄谷的区域。
Nesterov动量通过引入前瞻性来解决传统动量算法中的摆动问题。具体来说，Nesterov动量会先在当前位置向前迈出一步，然后计算梯度。它会使用这个前瞻的位置来调整参数更新的方向，而不是仅仅依赖于当前位置的梯度。这样做的目的是避免参数更新时在曲折或窄谷的区域产生大幅度的摆动。
算法：
Nesterov动量的更新公式如下：

1. 计算前瞻的位置 ${\theta }_{\text{lookahead}}$：
   $${\theta }_{\text{lookahead}}={\theta }_t+\mu \cdot v_{t-1}$$
   其中，${\theta }_t$ 表示当前的参数，$v_{t-1}$ 表示上一次迭代的动量，$\mu$ 是动量的学习率。
2. 计算前瞻位置 ${\theta }_{\text{lookahead}}$ 处的梯度 $\nabla f({\theta }_{\text{lookahead}})$。
3. 更新动量 $v_t$ 和参数 ${\theta }_t$：
   $$v_t=\mu \cdot v_{t-1}-\alpha \cdot \nabla f({\theta }_{\text{lookahead}})$$
   $${\theta }_{t+1}={\theta }_t+v_t$$
   其中， $\alpha$ 是学习率。

通过引入前瞻性，Nesterov动量能够在梯度计算时使用前瞻位置的信息来指导参数更新的方向，从而减少了在参数空间中的大幅度摆动，加速了收敛过程。这使得Nesterov动量在深度学习的优化过程中表现出色，并被广泛应用于各种深度学习模型和任务中。

---

13. L2-NORM

L2范数常用于正则化（也称为L2正则化或权重衰减）。在损失函数中加入L2范数的惩罚项，有助于减小模型参数的大小，防止过拟合，并提高模型的泛化能力。

---

14. Something helps optimization

• shuffling 乱序，每次更新顺序，让mini-batch每次选择的都不一样
• dropout 丢弃，随机地将神经网络中的部分节点（神经元）丢弃，即将它们的输出置零
• gradient noise 梯度噪声，一种随机性的梯度扰动，通过在梯度上添加随机的噪声来增加优化过程的探索性。随着t变大Gaussian noise 越来愈小
• warm-up 预热，保证模型训练初期的稳定性
• Curriculum learning 课程学习，逐步增加训练样本的难度来提高模型的泛化能力
• Fine-tuning 微调，在特定任务的数据上进行微调
• Normalization 归一化，帮助加快训练过程，使得梯度下降更加稳定，防止梯度爆炸和梯度消失问题。
• Regularization 正则化，在损失函数中增加一个正则项，惩罚模型的复杂性，从而减小模型对训练数据的过度拟合

---

Summarize

1. Alogorithm classification

2. Comparison between SGDM and Adam

3. Advice

---

这些算法终于看完了，里面很多无法理解，但是可能确实就有比较好的效果，我们掌握基础的算法，其他的算法了解一下，理解他们都是对基础算法的优化，但是我们要知道具体优化了什么，各个算法有什么优缺点，感觉这样应该就差不多了。