论文复现：随着训练轮数的较少，设置学习率不断减少

        在深度学习训练过程中，随着训练轮数（epoch）增加而逐渐减小学习率的策略被称为学习率衰减。这种策略有几个重要的用途和好处：

1. 更精细的权重调整：在训练初期，使用较大的学习率可以帮助模型快速收敛，避免陷入局部最优解。随着训练的进行，我们希望对模型参数进行更精细的调整，以缓慢逼近最优解。减小学习率可以减少每一步更新的幅度，帮助模型更稳定地收敛到最优解。

2. 防止过拟合：在训练后期，如果学习率依然很大，模型的权重可能会在最优解附近震荡，无法稳定下来，从而影响模型的泛化能力。通过减小学习率，可以减少这种震荡，帮助模型更好地泛化。

3. 提高收敛速度：通过适时降低学习率，可以帮助模型更快地接近最优解。在训练的不同阶段调整学习率，可以结合快速下降和精细调整的优点，提高整体的训练效率。

4. 适应性调整：学习率衰减可以视为一种使学习过程具有适应性的方法。在模型表现出收敛迹象时降低学习率，可以根据模型的当前状态动态调整训练策略，而不是靠固定的学习率盲目训练。

        实现学习率衰减的方法有多种，如预设的衰减计划、性能衰减（当模型性能停止提高时降低学习率）、以及自适应方法（如Adam优化器内置的学习率调整机制）。PyTorch等深度学习框架提供了灵活的学习率调度器（Learning Rate Scheduler），以支持在训练过程中自动调整学习率。