本帖最后由 keer_zu 于 2024-5-16 13:29 编辑
1. 什么是GRUGRU(Gate Recurrent Unit)是循环神经网络(Recurrent Neural Network, RNN)的一种。和LSTM(Long-Short Term Memory)一样,也是为了解决长期**和反向传播中的梯度等问题而提出来的。 GRU和LSTM在很多情况下实际表现上相差无几,那么为什么我们要使用新人GRU(2014年提出)而不是相对经受了更多考验的LSTM(1997提出)呢。 下图1-1引用论文中的一段话来说明GRU的优势所在。 图1-1 R-NET: MACHINE READING COMPREHENSION WITH SELF-MATCHING NETWORKS(2017) 译文:我们在我们的实验中选择GRU是因为它的实验效果与LSTM相似,但是更易于计算。 简单来说就是贫穷限制了我们的计算能力... 相比LSTM,使用GRU能够达到相当的效果,并且相比之下更容易进行训练,能够很大程度上提高训练效率,因此很多时候会更倾向于使用GRU。 OK,那么为什么说GRU更容易进行训练呢,下面开始介绍一下GRU的内部结构。 |