A deep learning theory for neural networks grounded in physics
dc.contributor.advisor | Bengio, Yoshua | |
dc.contributor.author | Scellier, Benjamin | |
dc.date.accessioned | 2021-09-02T16:06:13Z | |
dc.date.available | NO_RESTRICTION | fr |
dc.date.available | 2021-09-02T16:06:13Z | |
dc.date.issued | 2021-07-14 | |
dc.date.submitted | 2020-12 | |
dc.identifier.uri | http://hdl.handle.net/1866/25593 | |
dc.subject | deep learning | fr |
dc.subject | machine learning | fr |
dc.subject | physics | fr |
dc.subject | equilibrium propagation | fr |
dc.subject | energy-based model | fr |
dc.subject | variational principle | fr |
dc.subject | principle of least action | fr |
dc.subject | local learning rule | fr |
dc.subject | stochastic gradient descent | fr |
dc.subject | Hopfield network | fr |
dc.subject | resistive network | fr |
dc.subject | neuromorphic computing | fr |
dc.subject | circuit theory | fr |
dc.subject | principle of minimum dissipated power | fr |
dc.subject | co-content | fr |
dc.subject | Apprentissage profond | fr |
dc.subject | Apprentissage machine | fr |
dc.subject | Système physique | fr |
dc.subject | Modèle à énergie | fr |
dc.subject | Principe variationnel | fr |
dc.subject | Principe de moindre action | fr |
dc.subject | Règle d’apprentissage locale | fr |
dc.subject | Algorithme du gradient stochastique | fr |
dc.subject | Réseau de Hopfield | fr |
dc.subject | Réseau resistif | fr |
dc.subject | Théorie des circuits électriques | fr |
dc.subject | Calcul neuromorphique | fr |
dc.subject.other | Applied Sciences - Artificial Intelligence / Sciences appliqués et technologie - Intelligence artificielle (UMI : 0800) | fr |
dc.title | A deep learning theory for neural networks grounded in physics | fr |
dc.type | Thèse ou mémoire / Thesis or Dissertation | |
etd.degree.discipline | Informatique | fr |
etd.degree.grantor | Université de Montréal | fr |
etd.degree.level | Doctorat / Doctoral | fr |
etd.degree.name | Ph. D. | fr |
dcterms.abstract | Au cours de la dernière décennie, l'apprentissage profond est devenu une composante majeure de l'intelligence artificielle, ayant mené à une série d'avancées capitales dans une variété de domaines. L'un des piliers de l'apprentissage profond est l'optimisation de fonction de coût par l'algorithme du gradient stochastique (SGD). Traditionnellement en apprentissage profond, les réseaux de neurones sont des fonctions mathématiques différentiables, et les gradients requis pour l'algorithme SGD sont calculés par rétropropagation. Cependant, les architectures informatiques sur lesquelles ces réseaux de neurones sont implémentés et entraînés souffrent d’inefficacités en vitesse et en énergie, dues à la séparation de la mémoire et des calculs dans ces architectures. Pour résoudre ces problèmes, le neuromorphique vise à implementer les réseaux de neurones dans des architectures qui fusionnent mémoire et calculs, imitant plus fidèlement le cerveau. Dans cette thèse, nous soutenons que pour construire efficacement des réseaux de neurones dans des architectures neuromorphiques, il est nécessaire de repenser les algorithmes pour les implémenter et les entraîner. Nous présentons un cadre mathématique alternative, compatible lui aussi avec l’algorithme SGD, qui permet de concevoir des réseaux de neurones dans des substrats qui exploitent mieux les lois de la physique. Notre cadre mathématique s'applique à une très large classe de modèles, à savoir les systèmes dont l'état ou la dynamique sont décrits par des équations variationnelles. La procédure pour calculer les gradients de la fonction de coût dans de tels systèmes (qui dans de nombreux cas pratiques ne nécessite que de l'information locale pour chaque paramètre) est appelée “equilibrium propagation” (EqProp). Comme beaucoup de systèmes en physique et en ingénierie peuvent être décrits par des principes variationnels, notre cadre mathématique peut potentiellement s'appliquer à une grande variété de systèmes physiques, dont les applications vont au delà du neuromorphique et touchent divers champs d'ingénierie. | fr |
dcterms.abstract | In the last decade, deep learning has become a major component of artificial intelligence, leading to a series of breakthroughs across a wide variety of domains. The workhorse of deep learning is the optimization of loss functions by stochastic gradient descent (SGD). Traditionally in deep learning, neural networks are differentiable mathematical functions, and the loss gradients required for SGD are computed with the backpropagation algorithm. However, the computer architectures on which these neural networks are implemented and trained suffer from speed and energy inefficiency issues, due to the separation of memory and processing in these architectures. To solve these problems, the field of neuromorphic computing aims at implementing neural networks on hardware architectures that merge memory and processing, just like brains do. In this thesis, we argue that building large, fast and efficient neural networks on neuromorphic architectures also requires rethinking the algorithms to implement and train them. We present an alternative mathematical framework, also compatible with SGD, which offers the possibility to design neural networks in substrates that directly exploit the laws of physics. Our framework applies to a very broad class of models, namely those whose state or dynamics are described by variational equations. This includes physical systems whose equilibrium state minimizes an energy function, and physical systems whose trajectory minimizes an action functional (principle of least action). We present a simple procedure to compute the loss gradients in such systems, called equilibrium propagation (EqProp), which requires solely locally available information for each trainable parameter. Since many models in physics and engineering can be described by variational principles, our framework has the potential to be applied to a broad variety of physical systems, whose applications extend to various fields of engineering, beyond neuromorphic computing. | fr |
dcterms.language | eng | fr |
UdeM.ORCIDAuteurThese | 0000-0002-2407-7470 | fr |
Files in this item
This item appears in the following Collection(s)
This document disseminated on Papyrus is the exclusive property of the copyright holders and is protected by the Copyright Act (R.S.C. 1985, c. C-42). It may be used for fair dealing and non-commercial purposes, for private study or research, criticism and review as provided by law. For any other use, written authorization from the copyright holders is required.