Apprentissage de modèles causaux par réseaux de neurones artificiels
Thèse ou mémoire
2020-07 (octroi du grade: 2021-03-24)
Auteur·e·s
Directeur·trice·s de recherche
Cycle d'études
MaîtriseProgramme
InformatiqueMots-clés
- apprentissage structuré causal
- inférence causale
- modèles causaux
- apprentissage automatique
- réseaux neuronaux
- apprentissage profond
- causal structure learning
- causal inference
- causal model
- machine learning
- neural network
- deep learning
- Applied Sciences - Artificial Intelligence / Sciences appliqués et technologie - Intelligence artificielle (UMI : 0800)
Résumé·s
Dans ce mémoire par articles, nous nous intéressons à l’apprentissage de modèles causaux à
partir de données. L’intérêt de cette entreprise est d’obtenir une meilleure compréhension
des données et de pouvoir prédire l’effet qu’aura un changement sur certaines variables d’un
système étudié. Comme la découverte de liens causaux est fondamentale en sciences, les
méthodes permettant l’apprentissage de modèles causaux peuvent avoir des applications
dans une pléthore de domaines scientifiques, dont la génomique, la biologie et l’économie.
Nous présentons deux nouvelles méthodes qui ont la particularité d’être des méthodes
non-linéaires d’apprentissage de modèles causaux qui sont posées sous forme d’un problème
d’optimisation continue sous contrainte. Auparavant, les méthodes d’apprentissage de mo-
dèles causaux abordaient le problème de recherche de graphes en utilisant des stratégies de
recherche voraces. Récemment, l’introduction d’une contrainte d’acyclicité a permis d’abor-
der le problème différemment.
Dans un premier article, nous présentons une de ces méthodes: GraN-DAG. Sous cer-
taines hypothèses, GraN-DAG permet d’apprendre des graphes causaux à partir de données
observationnelles. Depuis la publication du premier article, plusieurs méthodes alternatives
ont été proposées par la communauté pour apprendre des graphes causaux en posant aussi
le problème sous forme d’optimisation continue avec contrainte. Cependant, aucune de ces
méthodes ne supportent les données interventionnelles. Pourtant, les interventions réduisent
le problème d’identifiabilité et permettent donc l’utilisation d’architectures neuronales plus
expressives. Dans le second article, nous présentons une autre méthode, DCDI, qui a la
particularité de pouvoir utiliser des données avec différents types d’interventions. Comme
le problème d’identifiabilité est moins important, une des deux instanciations de DCDI est
un approximateur de densité universel. Pour les deux méthodes proposées, nous montrons
que ces méthodes ont de très bonnes performances sur des données synthétiques et réelles
comparativement aux méthodes traditionelles. In this thesis by articles, we study the learning of causal models from data. The goal of
this entreprise is to gain a better understanding of data and to be able to predict the effect
of a change on some variables of a given system. Since discovering causal relationships is
fundamental in science, causal structure learning methods have applications in many fields
that range from genomics, biology, and economy.
We present two new methods that have the particularity of being non-linear methods
learning causal models casted as a continuous optimization problem subject to a constraint.
Previously, causal strutural methods addressed this search problem by using greedy search
heuristics. Recently, a new continuous acyclity constraint has allowed to address the problem
differently.
In the first article, we present one of these non-linear method: GraN-DAG. Under some
assumptions, GraN-DAG can learn a causal graph from observational data. Since the publi-
cation of this first article, several alternatives methods have been proposed by the community
by using the same continuous-constrained optimization formulation. However, none of these
methods support interventional data. Nevertheless, interventions reduce the identifiability
problem and allow the use of more expressive neural architectures. In the second article,
we present another method, DCDI, that has the particularity to leverage data with several
kinds of interventions. Since the identifiabiliy issue is less severe, one of the two instantia-
tions of DCDI is a universal density approximator. For both methods, we show that these
methods have really good performances on synthetic and real-world tasks comparatively to
other classical methods.
Ce document diffusé sur Papyrus est la propriété exclusive des titulaires des droits d'auteur et est protégé par la Loi sur le droit d'auteur (L.R.C. (1985), ch. C-42). Il peut être utilisé dans le cadre d'une utilisation équitable et non commerciale, à des fins d'étude privée ou de recherche, de critique ou de compte-rendu comme le prévoit la Loi. Pour toute autre utilisation, une autorisation écrite des titulaires des droits d'auteur sera nécessaire.