Exploring the role of neural network architecture onto decision-making processes with reservoir computing
Etude du rôle de l’architecture des réseaux neuronaux dans la prise de décision à l’aide de modèles de reservoir computing
Résumé
A striking similarity exists in the organization and structure of certain brain regions across diverse species. For instance, the brain structure of vertebrates, from fish to mammals, includes regions like the cortex, hippocampus, cerebellum and basal ganglia with remarkable similarity. The presence of these structures across a wide range of species strongly suggests that they emerged early in vertebrate evolution and have been conserved throughout evolution. The persistence of these structures raises intriguing questions about their evolutionary origins: are they unique and optimal solutions for processing information and controlling behavior, or could alternative brain architectures emerge to achieve similar functional properties? To investigate this question, this thesis explores the relationship between brain architecture and cognitive function, with a focus on decision-making processes. We propose to use variants of a recurrent neural network model (echo state network) that is structurally minimal and randomly connected. We aim to identify whether a minimal model can capture any decision-making process and if it cannot, we explore whether multiple realizable solutions emerge through structural variations. First we demonstrate that a minimal model is able to solve simple decision tasks in the context of spatial navigation. Second, we show that this minimal structure has performance limitations when handling more complex tasks, requiring additional structural constraints to achieve better results. Third, by employing a genetic algorithm to evolve network structure to more complex ones, we discover that multiple realizable solutions emerging through structural variations. Furthermore we reveal that identical architectures can exhibit a range of different behaviors, leading us to investigate additional factors contributing to these different behaviors beyond structural variations. Our analysis of the behavior of 24 monkeys living in a community reveals that social factors, such as social hierarchy, play a significant role in their behavior. This thesis takes an approach that differs from traditional neuroscience methodologies. Rather than directly constructing biologically inspired architectures, the models are designed from simple to complex structures, reproducing the process of biological evolution. By leveraging the principles of multiple realizability, this approach enables the evolution of diverse structural configurations that can achieve equivalent functional outcomes.
Une similarité frappante existe dans l’organisation et la structure de certaines régions du cerveau chez diverses espèces. Par exemple, la structure cérébrale des vertébrés, des poissons aux mammifères, présente une similarité remarquable dans des régions telles que le cortex, l’hippocampe, le cervelet et les ganglions de la base. Cela suggère que ces régions sont apparues tôt dans l’évolution des vertébrés et ont été conservées au fil du temps. La persistance de ces structures soulève des questions fondamentales sur leurs origines évolutives : sont-elles des solutions uniques et optimales pour le traitement de l’information et le contrôle du comportement, ou d’autres architectures cérébrales pourraient-elles émerger pour offrir des propriétés fonctionnelles équivalentes ? Cette thèse étudie la relation entre la structure du cerveau et les fonctions cognitives, en se concentrant particulièrement sur le processus de prise de décision. Nous proposons d’utiliser un type de réseau de neurones récurrent appelé Echo State Network qui est structurellement minimal et dans lequel les neurones sont connectées de manière aléatoire. Nous voulons déterminer si ce modèle minimal peut capturer tout processus décisionnel et si ce n’est pas le cas, nous chercherons l’existence de structures alternatives. Premièrement, nous démontrons qu’un modèle minimal est capable de résoudre des tâches décisionnelles simples dans le contexte de la navigation spatiale. Ensuite, nous montrons que cette structure minimale a des limitations de performance lorsqu’il s’agit de tâches plus complexes, nécessitant plus de structures pour retrouvant de bonnes performances. Troisièmement, nous utilisons un algorithme génétique faisant évoluer la structure du réseau vers des configurations plus complexes, ce qui nous conduit à découvrir plusieurs solutions réalisables émergeantes de variations structurelles. De plus, nos résultats révèlent que des architectures identiques peuvent manifester une gamme de comportements différents, nous incitant à explorer les facteurs supplémentaires pouvant contribuer à ces différences comportementales, au-delà des variations structurelles. Notre analyse du comportement de 24 singes vivant en communauté révèle que des facteurs sociaux, tels que la hiérarchie sociale, jouent un rôle significatif dans l’influence du comportement. Cette thèse adopte une approche qui diffère des méthodologies traditionnelles en neurosciences. Plutôt que de construire directement des architectures biologique, les modèles sont construits en faisant évoluer leur structures de simples à complexes, reproduisant ainsi le processus de l’évolution biologique. En s’appuyant sur les principes de réalisabilité multiple, cette approche permet l’évolution de configurations structurelles diverses capables de parvenir à des résultats fonctionnels équivalents.
| Origine | Version validée par le jury (STAR) |
|---|