Browsing Thèses et mémoires électroniques de l’Université de Montréal by Subject "Recurrent Neural Networks"
Now showing items 1-3 of 3
-
Improved training of generative models
(2019-03-13)Cette thèse explore deux idées différentes: — Une méthode améliorée d’entraînement de réseaux de neurones récurrents. Communément, l’entraînement des réseaux de neurones récurrents se fait à l’aide d’une méthode connue sous le nom de ‘teacher forcing’. ... -
On challenges in training recurrent neural networks
(2020-03-25)Dans un problème de prédiction à multiples pas discrets, la prédiction à chaque instant peut dépendre de l’entrée à n’importe quel moment dans un passé lointain. Modéliser une telle dépendance à long terme est un des problèmes fondamentaux en apprentissage ... -
Towards better understanding and improving optimization in recurrent neural networks
(2020-12-16)Recurrent neural networks (RNN) are known for their notorious exploding and vanishing gradient problem (EVGP). This problem becomes more evident in tasks where the information needed to correctly solve them exist over long time scales, because it ...
