Multi-Models Clustering through Optimal Transport Theory

Abstract

Le travail de recherche exposé dans cette thèse concerne le développement d’approches de clustering multi-modèles à partir de données distribuées. Nous travaillons sur deux volets principaux en apprentissage automatique multi-modèles. Le premier concerne le clustering multi-vues où nous visons à apprendre un modèle optimal global à partir des modèles locaux des différentes vues. Le second volet porte sur le clustering collaboratif où l’idée principale est de trouver un modèle d’échange de connaissances entre les différents collaborateurs afin d’améliorer leurs propres performances. Pour le clustering multi-vues, nous avons proposé deux approches basées sur la théorie du transport optimal. La première approche (PCA) consiste à trouver un modèle de consensus à partir des modèles locaux, en projetant les distributions des différentes vues sur un espace global. La seconde approche (CNR) vise à apprendre une nouvelle représentation consensuelle à partir de la représentation locale des distributions. Dans le cas du clustering collaboratif, nous introduisons une nouvelle approche basée sur la théorie du transport optimal (Co-OT) qui vise à améliorer le mécanisme de la collaboration et la manière de transporter les informations entre les collaborateurs avec un coût minimum. Pour ce faire, nous proposons une fonction objective pour la collaboration basée sur la distance de Wasserstein. Nous proposons une solution pour choisir les meilleurs collaborateurs par comparaison de la distribution locale des prototypes et l’analyse de la diversité entre les collaborateurs. Pour une autre approche dans ce cadre, nous présentons un nouveau modèle de collaboration guidé par la sélection des caractéristiques, où l’idée principale est de choisir les caractéristiques qui donnent la meilleure représentation pour chaque collaborateur et garantissant la meilleure communication entre eux, tout en préservant la confidentialité des données de chaque collaborateur. Cette dernière approche collaborative est aussi développée dans le cadre de la théorie du transport optimal. Enfin, plusieurs expériences approfondies sur de multiples ensembles de données réelles sont proposées pour évaluer les approches développées et démontrer leur utilité et efficacité dans le cas des données distribuées.