HBU深度学习实验14.5-循环神经网络（1.5）

🕗 发布于 2024-12-07 08:05 深度学习 rnn 人工智能

梯度爆炸实验

造成简单循环网络较难建模长程依赖问题的原因有两个：梯度爆炸和梯度消失。一般来讲，循环网络的梯度爆炸问题比较容易解决，一般通过权重衰减或梯度截断可以较好地来避免；对于梯度消失问题，更加有效的方式是改变模型，比如通过长短期记忆网络LSTM来进行缓解。

本节将首先进行复现简单循环网络中的梯度爆炸问题，然后尝试使用梯度截断的方式进行解决。这里采用长度为20的数据集进行实验，训练过程中将进行输出 W,U,b 的梯度向量的范数，以此来衡量梯度的变化情况。

梯度打印函数

使用custom_print_log实现了在训练过程中打印梯度的功能，custom_print_log需要接收runner的实例，并通过model.named_parameters()获取该模型中的参数名和参数值. 这里我们分别定义W_list, U_list和b_list，用于分别存储训练过程中参数W,U和b的梯度范数。

import torch

W_list = []
U_list = []
b_list = []


# 计算梯度范数
def custom_print_log(runner):
    model = runner.model
    W_grad_l2, U_grad_l2, b_grad_l2 = 0, 0, 0
    for name, param in model.named_parameters():
        if name == "rnn_model.W":
            # 使用torch的norm方法计算L2范数，并转换为Python标量值（原先是paddle的写法）
            W_grad_l2 = param.grad.norm(p=2).item()
        if name == "rnn_model.U":
            U_grad_l2 = param.grad.norm(p=2).item()
        if name == "rnn_model.b":
            b_grad_l2 = param.grad.norm(p=2).item()
    print(f"[Training] W_grad_l2: {W_grad_l2:.5f}, U_grad_l2: {U_grad_l2:.5f}, b_grad_l2: {b_grad_l2:.5f} ")
    W_list.append(W_grad_l2)
    U_list.append(U_grad_l2)
    b_list.append(b_grad_l2)

复现梯度爆炸现象

为了更好地复现梯度爆炸问题，使用SGD优化器将批大小和学习率调大，学习率为0.2，同时在计算交叉熵损失时，将reduction设置为sum，表示将损失进行累加。代码实现如下：

import os
import random
import torch
import numpy as np

np.random.seed(0)
random.seed(0)
torch.manual_seed(0)  # torch中设置随机种子的方式，用于复现实验结果

# 训练轮次
num_epochs = 50
# 学习率
lr = 0.2
# 输入数字的类别数
num_digits = 10
# 将数字映射为向量的维度
input_size = 32
# 隐状态向量的维度
hidden_size = 32
# 预测数字的类别数
num_classes = 19
# 批大小
batch_size = 64
# 模型保存目录
save_dir = "./checkpoints1"


# 可以设置不同的length进行不同长度数据的预测实验
length = 20
print(f"\n====> Training SRN with data of length {length}.")

# 加载长度为length的数据，这里假设load_data函数在torch环境下有对应的实现，能正确返回数据
data_path = f"./datasets/{length}"
train_examples, dev_examples, test_examples = load_data(data_path)
train_set, dev_set, test_set = DigitSumDataset(train_examples), DigitSumDataset(dev_examples), DigitSumDataset(test_examples)
# 使用torch的DataLoader，注意一些参数的设置方式可能稍有不同
train_loader = torch.utils.data.DataLoader(train_set, batch_size=batch_size, shuffle=True)  # 一般需要设置shuffle为True打乱数据
dev_loader = torch.utils.data.DataLoader(dev_set, batch_size=batch_size)
test_loader = torch.utils.data.DataLoader(test_set, batch_size=batch_size)

# 实例化模型，这里假设SRN和Model_RNN4SeqClass类已经正确按照torch的规范进行了定义（比如继承自torch.nn.Module等）
base_model = SRN(input_size, hidden_size)
model = Model_RNN4SeqClass(base_model, num_digits, input_size, hidden_size, num_classes)
# 指定优化器，使用torch的SGD优化器，参数传入方式等有不同写法
optimizer = torch.optim.SGD(model.parameters(), lr=lr)
# 定义评价指标，这里假设Accuracy类已经有对应的torch实现
metric = Accuracy()
# 定义损失函数，使用torch的CrossEntropyLoss，注意参数使用上的区别
loss_fn = torch.nn.CrossEntropyLoss(reduction='sum')

# 基于以上组件，实例化Runner，这里假设RunnerV3类已经按照torch规范进行了适配
runner = RunnerV3(model, optimizer, loss_fn, metric)

# 进行模型训练，假设train方法内部已经适配了torch的相关操作（比如梯度更新等机制）
model_save_path = os.path.join(save_dir, f"srn_explosion_model_{length}.pt")  # torch模型保存的常见后缀是.pt
runner.train(train_loader, dev_loader, num_epochs=num_epochs, eval_steps=100, log_steps=1,
             save_path=model_save_path, custom_print_log=custom_print_log)

接下来，可以获取训练过程中关于W，U和b参数梯度的L2范数，并将其绘制为图片以便展示，相应代码如下：

import matplotlib.pyplot as plt


def plot_grad(W_list, U_list, b_list, save_path, keep_steps=40):
    # 开始绘制图片
    plt.figure()
    # 默认保留前40步的结果
    steps = list(range(keep_steps))
    plt.plot(steps, W_list[:keep_steps], "r-", color="#8E004D", label="W_grad_l2")
    plt.plot(steps, U_list[:keep_steps], "-.", color="#E20079", label="U_grad_l2")
    plt.plot(steps, b_list[:keep_steps], "--", color="#3D3D3F", label="b_grad_l2")

    plt.xlabel("step")
    plt.ylabel("L2 Norm")
    plt.legend(loc="upper right")
    plt.savefig(save_path)
    print("image has been saved to: ", save_path)

下图展示了在训练过程中关于W，U和b参数梯度的L2范数，可以看到经过学习率等方式的调整，梯度范数急剧变大，而后梯度范数几乎为0. 这是因为TanhTanh为SigmoidSigmoid型函数，其饱和区的导数接近于0，由于梯度的急剧变化，参数数值变的较大或较小，容易落入梯度饱和区，导致梯度为0，模型很难继续训练.

接下来，使用该模型在测试集上进行测试。

print(f"Evaluate SRN with data length {length}.")
# 加载训练过程中效果最好的模型
model_path = os.path.join(save_dir, f"srn_explosion_model_{length}.pdparams")
runner.load_model(model_path)

# 使用测试集评价模型，获取测试集上的预测准确率
score, _ = runner.evaluate(test_loader)
print(f"[SRN] length:{length}, Score: {score: .5f}")

使用梯度截断解决梯度爆炸问题

梯度截断是一种可以有效解决梯度爆炸问题的启发式方法，当梯度的模大于一定阈值时，就将它截断成为一个较小的数。一般有两种截断方式：按值截断和按模截断．本实验使用按模截断的方式解决梯度爆炸问题。

按模截断是按照梯度向量g的模进行截断，保证梯度向量的模值不大于阈值bb，裁剪后的梯度为:

$\left.g=\left\{ \begin{array} {cc}g, & ||\boldsymbol{g}||\leq b \\ \frac{b}{||\boldsymbol{g}||}*\boldsymbol{g}, & ||\boldsymbol{g}||>b \end{array}\right.\right.$

当梯度向量g的模不大于阈值b时，g数值不变，否则对g进行数值缩放。

在飞桨中，可以使用paddle.nn.ClipGradByNorm进行按模截断. 在代码实现时，将ClipGradByNorm传入优化器，优化器在反向迭代过程中，每次梯度更新时默认可以对所有梯度裁剪。

在飞桨中使用nn.ClipGradByNorm进行梯度裁剪并传入优化器，而在torch中并没有完全对应的类来这样直接传入优化器实现裁剪。通常的做法是使用torch.nn.utils.clip_grad_norm_函数，先正常实例化优化器（如示例中使用torch.optim.SGD），然后在训练循环里每次反向传播计算出梯度后，调用torch.nn.utils.clip_grad_norm_函数对模型参数的梯度进行裁剪（传入模型的参数和设定的最大范数阈值，这里阈值为5.0对应原来飞桨代码中的clip_norm=5.0）。
优化器实例化部分，torch.optim.SGD的参数传入方式和飞桨稍有不同，在torch里直接按顺序传入模型参数model.parameters()和学习率lr即可，不需要像飞桨那样通过关键字参数指定grad_clip等额外的与梯度裁剪相关的配置（因为梯度裁剪在torch里是在优化器外部单独控制的方式）。

在引入梯度截断之后，将重新观察模型的训练情况。这里我们重新实例化一下：模型和优化器，然后组装runner，进行训练。代码实现如下：

# 清空梯度列表
W_list.clear()
U_list.clear()
b_list.clear()
# 实例化模型
base_model = SRN(input_size, hidden_size)
model = Model_RNN4SeqClass(base_model, num_digits, input_size, hidden_size, num_classes)

# 定义clip，并实例化优化器

optimizer = torch.optim.SGD(lr=lr, params=model.parameters())
# 定义评价指标
metric = Accuracy()
# 定义损失函数
loss_fn = nn.CrossEntropyLoss(reduction="sum")

# 实例化Runner
runner = RunnerV3(model, optimizer, loss_fn, metric)

# 训练模型
model_save_path = os.path.join(save_dir, f"srn_fix_explosion_model_{length}.pt")
runner.train(train_loader, dev_loader, num_epochs=num_epochs, eval_steps=100, log_steps=1, save_path=model_save_path,
             custom_print_log=custom_print_log)

在引入梯度截断后，获取训练过程中关于W，U和b参数梯度的L2范数，并将其绘制为图片以便展示，相应代码如下：

save_path =  f"./images/6.9.pdf"
plot_grad(W_list, U_list, b_list, save_path, keep_steps=100)

下图展示了引入按模截断的策略之后，模型训练时参数梯度的变化情况。可以看到，随着迭代步骤的进行，梯度始终保持在一个有值的状态，表明按模截断能够很好地解决梯度爆炸的问题.

接下来，使用梯度截断策略的模型在测试集上进行测试。

print(f"Evaluate SRN with data length {length}.")

# 加载训练过程中效果最好的模型
model_path = os.path.join('.', 'checkpoints2', 'srn_fix_explosion_model_20.pt')
runner.load_model(model_path)

# 使用测试集评价模型，获取测试集上的预测准确率
score, _ = runner.evaluate(test_loader)
print(f"[SRN] length:{length}, Score: {score: .5f}")

由于为复现梯度爆炸现象，改变了学习率，优化器等，因此准确率相对比较低。但由于采用梯度截断策略后，在后续训练过程中，模型参数能够被更新优化，因此准确率有一定的提升。

总结：

RNN神经网络产生梯度消失和梯度爆炸的原因及解决方案 - 早起的小虫子 - 博客园 (cnblogs.com)

本次实验主要是为了解决梯度爆炸问题

一般而言，循环网络的梯度爆炸问题比较容易解决，一般通过权重衰减或梯度截断来避免．

产生梯度爆炸的原因：

首先来看一下RNN的模型结构图：

RNN的前向传播公式：

$\begin{aligned} & s_{t}=\phi(Ux_{t}+Ws_{t-1})\ \\ & o_{t}=f(Vs_{t})\ \end{aligned}$

反向传播算法：

BPTT（back-propagation through time）算法是针对循层的训练算法，它的基本原理和BP算法一样。其算法本质还是梯度下降法，那么该算法的关键就是计算各个参数的梯度，对于RNN来说参数有 U、W、V。

现对t=3时刻的U、W、V求偏导，由链式法则得到：

$\begin{aligned} & \frac{\partial L_3}{\partial V}=\frac{\partial L_3}{\partial o_3}\frac{\partial o_3}{\partial V}\\\ & \frac{\partial L_3}{\partial W}=\frac{\partial L_3}{\partial o_3}\frac{\partial o_3}{\partial s_3}\frac{\partial s_3}{\partial W}+\frac{\partial L_3}{\partial o_3}\frac{\partial o_3}{\partial s_2}\frac{\partial s_2}{\partial W}+\frac{\partial L_3}{\partial o_3}\frac{\partial o_3}{\partial s_3}\frac{\partial s_3}{\partial s_2}\frac{\partial s_2}{\partial s_1}\frac{\partial s_1}{\partial W}\mathrm{} \\ & \frac{\partial L_3}{\partial U}=\frac{\partial L_3}{\partial o_3}\frac{\partial o_3}{\partial s_3}\frac{\partial s_3}{\partial U}+\frac{\partial L_3}{\partial o_3}\frac{\partial o_3}{\partial s_2}\frac{\partial s_2}{\partial U}+\frac{\partial L_3}{\partial o_3}\frac{\partial o_3}{\partial s_3}\frac{\partial s_3}{\partial s_2}\frac{\partial s_2}{\partial s_1}\frac{\partial s_1}{\partial U}\mathrm{} \end{aligned}$

可以简写成：

$\frac{\partial L_3}{\partial U}=\sum_{k=0}^3\frac{\partial L_3}{\partial o_3}\frac{\partial o_3}{\partial s_3}\frac{\partial s_3}{\partial s_k}\frac{\partial s_k}{\partial U}=\sum_{k=0}^3\frac{\partial L_3}{\partial o_3}\frac{\partial o_3}{\partial s_3}(\prod_{j-k-1}^3\frac{\partial s_j}{\partial s_{j-1}})\frac{\partial s_k}{\partial U}$

取其中累乘的部分出来，其中激活函数 Φ 通常是tanh函数，则

$\prod_{j=k-1}^3\frac{\partial s_j}{\partial s_{j-1}}=\prod_{j=k-1}^3tanh^{^{\prime}}W$

对于 V 求偏导不存在依赖问题；但是对于 W、U 求偏导的时候，由于时间序列长度，存在长期依赖的情况。主要原因可由 t=1、2、3 的情况观察得 , St会随着时间序列向前传播，同时St是 U、W 的函数。

激活函数tanh和它的导数图像如下:

tanh函数的导数最大值为1，又不可能一直都取1这种情况，实际上这种情况很少出现，那么也就是说，大部分都是小于1的数在做累乘。

如果参数 W 中的值太大，随着序列长度存在长期依赖的情况，大于1的数连乘好多次，就会出现梯度爆炸。反之，梯度消失。

权重衰减weight_decay参数从入门到精通_weight decay-CSDN博客

权重衰减

$L=L_0+\frac{\lambda}{2}||W||^2$

上面的公式是L2正则

$L_{\mathrm{}}=L_{\mathrm{0}}+\lambda\sum_{i=1}^n|w_i|$

上面就是L1正则（L是损失函数）

梯度截断

在PyTorch中，梯度裁剪是一种常用的技术，用于防止梯度爆炸问题，这在训练深度神经网络时尤为重要。梯度裁剪通过限制梯度的大小，确保在反向传播过程中梯度不会变得过大，从而避免数值不稳定和过拟合问题。

梯度裁剪的方法

PyTorch提供了两种梯度裁剪的方法：torch.nn.utils.clip_grad_norm_ 和 torch.nn.utils.clip_grad_value_。这两种方法都应在计算完梯度后、执行优化器的 step() 方法之前使用。

固定阈值裁剪

clip_grad_value_ 函数通过将所有梯度限制在指定的阈值内来实现梯度裁剪。如果梯度的绝对值超过了阈值，它会被设置为阈值的符号乘以阈值。例如，如果阈值设置为0.5，那么所有梯度的值都会被限制在 [-0.5, 0.5] 范围内。

import torch
import torch.nn as nn

# 创建模型和优化器
model = nn.Linear(2, 1)
optimizer = torch.optim.SGD(model.parameters(), lr=0.1)

# 计算梯度
loss.backward()

# 对梯度进行裁剪
torch.nn.utils.clip_grad_value_(model.parameters(), clip_value=0.5)

# 更新模型参数
optimizer.step()

范数裁剪

clip_grad_norm_ 函数根据所有梯度的范数来进行裁剪。如果梯度的范数超过了最大范数（max_norm），则会按比例缩小梯度，使其范数等于 max_norm。这种方法考虑了所有参数的梯度，并将它们视为一个整体来进行裁剪。

import torch
import torch.nn as nn
import torch.optim as optim

# 创建模型和优化器
model = nn.Linear(10, 1)
optimizer = optim.SGD(model.parameters(), lr=0.01)

# 计算梯度
loss.backward()

# 对梯度进行裁剪
torch.nn.utils.clip_grad_norm_(model.parameters(), max_norm=20, norm_type=2)

# 更新模型参数
optimizer.step()

某些优化器，如Adam和RMSProp，已经包含了防止梯度爆炸的机制，使用梯度裁剪可能会干扰其内部工作机制。

原文地址：https://blog.csdn.net/ckh20040422/article/details/144260400

免责声明：本站文章内容转载自网络资源，如本站内容侵犯了原著者的合法权益，可联系本站删除。更多内容请关注自学内容网（zxcms.com）！

上一篇：[241206] X-CMD 发布 v0.4.15：env 升级，mirror 支持华为/腾讯 npm 镜像，pb-wayland 剪贴板
下一篇：数据查找文件夹里Excel、Word文件

.NET(C#) 如何配置用户首选项及保存用户设置
.NET(C#) 如何配置用户首选项及保存用户设置
阅读更多2024-12-14
【最新】北大数字普惠金融指数数据集-省市县（2011-2023年）
郭峰,王靖一,王芳,孔涛,张勋,程志云.测度中国数字普惠金融发展:指数编制与空间特征[J].经济学(季刊),2020,19(04):1401-1418.时间跨度：省级和城市级指数时间跨度为2011-2
阅读更多2024-12-14
GESP202412 四级【Recamán】题解（AC）
a11ak−1−kkakak−1−kak−1k小杨想知道 Recamán 数列的前n项从小到大排序后的结果。手动计算非常困难，小杨希望你能帮他解决这个问题。
阅读更多2024-12-14
IDEA遇到EasyConnect中的网络资源无法访问的问题
版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。原文链接：https://blog.csdn.net/wanshanyu_/article/de
阅读更多2024-12-14
双目摄像头标定方法
此时已经完成标定，左下角为反投影误差，右边为外参可视化。将双目左右目拍的图像上传（左右目最好不少于20张）此时回到主页面，即可看到成功导出。把这些误差大的删除即可。
阅读更多2024-12-14
Servlet、omcat服务器架构与工作原理
Servlet是运行在服务器端的Java程序，它的主要职责之一是接收并处理来自客户端（如浏览器）的HTTP请求。当客户端发送一个请求到服务器时，Servlet可以解析请求中的信息，例如请求的URL路径
阅读更多2024-12-14
Vue生命周期钩子函数：深入解析与实践
作为高级Vue前端开发人员，对Vue组件的生命周期钩子函数有着深刻的理解是至关重要的。生命周期钩子函数是指在Vue组件的创建、更新、销毁等过程中，Vue自动调用的一系列方法。通过这些钩子函数，我们可以
阅读更多2024-12-14
安卓开发--使用android studio发布APP
app发布
阅读更多2024-12-14
数据结构与算法学习笔记----拓扑排序
@ author: 明月清了个风。
阅读更多2024-12-14
python 将数据保存到现有的Excel文件的新工作表
out_file = ‘query.xlsx’df1 = pd.DataFrame(out_data)若直接写入：df1.to_excel(out_file, index=False, sheet_n
阅读更多2024-12-14