Etude et implémentations parallèles des réseaux de neurones

Abstract

Le travail de cette thèse commence par résoudre le problème de classification d’un système multi-agents par une approche neuronale, basée sur le modèle de Kohonnen. Le reste du travail consiste essentiellement en l’étude de la parallélisation des réseaux de neurones multicouches sur des machines parallèles à mémoires distribuées. Après avoir cité différentes méthodes de parallélisation, on propose de nouvelles techniques qui se basant sur le partitionnement du réseau et sur la distribution de la base d’apprentissage. Des techniques permettent d’augmenter les performances des algorithmes proposés en réduisant les coûts des communications qui sont une contrainte supplémentaire qui dégrade les performances des algorithmes parallèles. La fin de la thèse est consacrée à l’étude de la parallélisation de la compression d’images par réseaux de neurones. On propose tout d’abord une technique statique qui a l’avantage d’éviter les coûts des communications, par contre, elle présente l’inconvénient du déséquilibre de travail entre processeurs, ensuite on propose une technique dynamique qui nécessite des communications mais réduit considérablement le phénomène du déséquilibrage de travail entre processus. Les études théoriques sont validées par des implémentations réelles, sous l’environnement PVM, sur la machine parallèle TN310, composée de 32 processeurs, installée à la Faculté des Sciences d’Oujda.