【LSTM和GRU极简,和最新的TT也就是状态】机器学习模型来学习状态
LSTM(长短期记忆网络)中的关键参数包括输入门、遗忘门、输出门、细胞状态和隐藏状态。以下是如何进行推理计算的示例:
LSTM参数和公式
-
输入门(i_t):决定输入的信息量。
-
遗忘门(f_t):决定遗忘上一个状态的信息量。
-
细胞状态(C_t):存储长期信息。
-
输出门(o_t):决定输出的信息量。
-
隐藏状态(h_t):输出短期记忆。
推理计算示例
假设我们有以下输入数据和参数:
计算步骤
总结:训练所得四个权重,然后不停的更新状态,遗忘并输出
GRU 少了门,更新,重置,状态 3个权重。
原文地址:https://blog.csdn.net/liuchenbaidu/article/details/140434990
免责声明:本站文章内容转载自网络资源,如本站内容侵犯了原著者的合法权益,可联系本站删除。更多内容请关注自学内容网(zxcms.com)!