Search
Now showing items 1-10 of 59
Difference target propagation
(2018-10-18)
Backpropagation has been the workhorse of recent successes of deep learning but it relies on infinitesimal effects (partial derivatives) in order to perform credit assignment. This could become a serious issue as one ...
On sample efficiency and systematic generalization of grounded language understanding with deep learning
(2020-06-04)
En utilisant la méthodologie de l'apprentissage profond qui préconise de s'appuyer davantage sur des données et des modèles neuronaux flexibles plutôt que sur les connaissances de l'expert dans le domaine, la communauté ...
Towards better understanding and improving optimization in recurrent neural networks
(2020-12-16)
Recurrent neural networks (RNN) are known for their notorious exploding and vanishing gradient problem (EVGP). This problem becomes more evident in tasks where the information needed to correctly solve them exist over long ...
Feedforward deep architectures for classification and synthesis
(2018-03-21)
Cette thèse par article présente plusieurs contributions au domaine de l'apprentissage de représentations profondes, avec des applications aux problèmes de classification et de synthèse d'images naturelles. Plus spécifiquement, ...
Incorporating complex cells into neural networks for pattern classification
(2011-07-07)
Dans le domaine des neurosciences computationnelles, l'hypothèse a été émise que le système visuel, depuis la rétine et jusqu'au cortex visuel primaire au moins, ajuste continuellement un modèle probabiliste avec des ...
Understanding deep architectures and the effect of unsupervised pre-training
(2011-05-05)
Cette thèse porte sur une classe d'algorithmes d'apprentissage appelés architectures profondes. Il existe des résultats qui indiquent que les représentations peu profondes et locales ne sont pas suffisantes pour la ...
Recurrent neural models and related problems in natural language processing
(2019-10-30)
Le réseau de neurones récurrent (RNN) est l’un des plus puissants modèles d’apprentissage automatique spécialis és dans la capture des variations temporelles et des dépendances de données séquentielles. Grâce à la résurgence ...
Characterizing and comparing acoustic representations in convolutional neural networks and the human auditory system
(2020-12-16)
Le traitement auditif dans le cerveau humain et dans les systèmes informatiques consiste en une cascade de transformations représentationnelles qui extraient et réorganisent les informations pertinentes pour permettre ...
Sequential modeling, generative recurrent neural networks, and their applications to audio
(2017-03-28)
L'apprentissage profond s'est imposé comme étant le cadre de concrétisation d'une intelligence artificielle spécialisée; le chemin rêvé de beaucoup vers un futur où l'IA est omniprésente ou ce qu'on appellerait une ...
Neural approaches to dialog modeling
(2020-12-16)
Cette thèse par article se compose de quatre articles qui contribuent au domaine de l’apprentissage profond, en particulier dans la compréhension et l’apprentissage des ap- proches neuronales des systèmes de dialogue. Le ...