Search

The efficient coding hypothesis proposes that early sensory neurons transmit maximal information about sensory stimuli, given internal constraints such as metabolic cost of firing a spike or noise. This theory predicts that neurons should adapt to the stimulus statistics and invest most resources on encoding surprising stimuli. Previous results from Schwartz and colleagues showed that some ganglion cells in the axolotl retina respond to an omitted flash in a periodic sequence of flashes (termed the omitted stimulus response, OSR), suggesting that these cells code for unexpected stimuli rather than for physical luminance. However, so far there was no quantitative validation of this assumption. To test this hypothesis, we varied the level of surprise in the stimulus, and recorded the responses of retinal ganglion cells (RGCs) to stochastic sequences of full-field flashes. Our results suggest that, given a simple internal model of the stimulus statistics, neural responses are consistent with the idea of neurons encoding surprise. Moreover, the observed diversity in the RGC population can be explained by different confidence in the internal model of the stimulus statistics., L'hypothèse du codage efficace stipule que les neurones sensoriels maximisent l’information transmise sur les stimuli sensoriels, compte tenu de contraintes internes telles que le coût métabolique des potentiels d’action ou le bruit. Cette théorie prédit que les neurones s'adaptent aux statistiques des stimuli et investissent davantage de ressources dans l'encodage des stimuli surprenants. Des résultats antérieurs de Schwartz et de ses collègues ont montré que certaines cellules ganglionnaires de la rétine de l'axolotl répondent à l’omission d’un flash dans une séquence périodique de flashs (appelée réponse au stimulus omis), ce qui suggère que ces cellules codent pour des stimuli inattendus plutôt que pour la luminance. Cependant, il n'existe jusqu'à présent aucune validation quantitative de cette hypothèse. Pour tester cette hypothèse, nous avons fait varier le niveau de surprise du stimulus et enregistré les réponses des cellules ganglionnaires de la rétine (CGR) à des séquences stochastiques de flashs plein champ. Nos résultats suggèrent que, compte tenu d'un modèle interne simple des statistiques du stimulus, les réponses neuronales sont compatibles avec l'idée que les neurones codent la surprise. De plus, la diversité observée dans la population de CGR peut être expliquée par une confiance différente dans le modèle interne des statistiques du stimulus.

Nowadays, Artificial Intelligence (AI) is a widespread concept applied to many fields such as transportation, medicine and autonomous vehicles. The main AI algorithms are artificial neural networks, which can be divided into two families: Spiking Neural Networks (SNNs), which are bio-inspired models resulting from neuroscience, and Analog Neural Networks (ANNs), which result from machine learning. The ANNs are experiencing unprecedented success in research and industrial fields, due to their recent successes in many application contexts such as image classification and object recognition. However, they require considerable computational capacity for their deployment which is not adequate to very constrained systems such as 'embedded systems'. To overcome these limitations, many researchers are interested in brain-inspired computing, which would be the perfect alternative to conventional computers based on the Von Neumann architecture (CPU/GPU). This paradigm meets computing performance but not energy efficiency requirements. Hence, it is necessary to design neuromorphic hardware circuits adaptable to parallel and distributed computing. In this context, we have set criteria in terms of accuracy and hardware implementation cost to differentiate the two neural families (SNNs and ANNs). In the case of simple network topologies, we conducted a study that has shown that the spiking models have significant gains in terms of hardware cost when compared to the analog networks, with almost similar prediction accuracies. Therefore, the objective of this thesis is to design a generic neuromorphic architecture that is based on spiking neural networks. To this end, we have set up a three-level design flow for exploring and implementing neuromorphic architectures.In an energy efficiency context, a thorough exploration of different neural coding paradigms for neural data representation in SNNs has been carried out. Moreover, new derivative versions of rate-based coding have been proposed that aim to get closer to the activity produced by temporal coding, which is characterized by a reduced number of spikes propagating in the network. In this way, the number of spikes can be reduced so that the number of events to be processed in the SNNs gets smaller. The aim in doing this approach is to reduce the hardware architecture's energy consumption. The proposed coding approaches are: First Spike, which is characterized using at most one single spike to present an input data, and Spike Select, which allows to regulate and minimize the overall spiking activity in the SNN.In the RTL design exploration, we quantitatively compared three SNN architectural models having different levels of computing parallelism and multiplexing. Using Spike Select coding results in a distribution regulation of the spiking data, with most of them generated within the first layer and few of them propagate into the deep layers. Such distribution benefits from a so-called 'hybrid architecture' that includes a fully-parallel part for the first layer and multiplexed parts to the other layers. Therefore, combining the Spike Select and the Hybrid Architecture would be an effective solution for embedded AI applications, with an efficient hardware and latency trade-off.Finally, based on the architectural and neural choices resulting from the previous exploration, we have designed a final event-based architecture dedicated to SNNs supporting different neural network types and sizes. The architecture supports the most used layers: convolutional, pooling and fully-connected. Using this architecture, we will be able to compare analog and spiking neural networks on realistic applications and to finally conclude about the use of SNNs for Embedded Artificial Intelligence.; Dans le contexte actuel, l’Intelligence Artificielle (IA) est largement répandue et s’applique à de nombreux domaines tels que les transports, la médecine et les véhicules autonomes. Parmi les algorithmes d'IA, on retrouve principalement les réseaux de neurones, qui peuvent être répartis en deux familles : d'une part, les Réseaux de Neurones Impulsionnels (SNNs) qui sont issus du domaine des neurosciences ; d'autre part, les Réseaux de Neurones Analogiques (ANNs) qui sont issus du domaine de l'apprentissage machine. Les ANNs connaissent un succès inédit grâce à des résultats inégalés dans de nombreux secteurs tels que la classification d'images et la reconnaissance d'objets. Cependant, leur déploiement nécessite des capacités de calcul considérables et ne conviennent pas à des systèmes très contraints. Afin de pallier ces limites, de nombreux chercheurs s'intéressent à un calcul bio-inspiré, qui serait la parfaite alternative aux calculateurs conventionnels basés sur l'architecture de Von Neumann. Ce paradigme répond aux exigences de performance de calcul, mais pas aux exigences d'efficacité énergétique. Il faut donc concevoir des circuits matériels neuromorphiques adaptés aux calculs parallèles et distribués. Dans ce contexte, nous avons établi un certain nombre de critères en termes de précision et de coût matériel pour différencier les SNNs et ANNs. Dans le cas de topologies simples, nous avons montré que les SNNs sont plus efficaces en termes de coût matériel que les ANNs, et ce, avec des précisions de prédiction quasiment similaires. Ainsi, dans ce travail, notre objectif est de concevoir une architecture neuromorphique basée sur les SNNs. Dans cette perspective, nous avons mis en place un flot de conception composé de trois niveaux, qui permet la réalisation d’une architecture neuromorphique dédiée et adaptée aux applications d’IA embarquée.Dans un contexte d'efficacité énergétique, nous avons réalisé une étude approfondie sur divers paradigmes de codage neuronal utilisés avec les SNNs. Par ailleurs, nous avons proposé de nouvelles versions dérivées du codage fréquentiel, visant à se rapprocher de l'activité produite avec le codage temporel, qui se caractérise par un nombre réduit d'impulsions (spikes) se propageant dans le SNN. En faisant cela, nous sommes en mesure de réduire le nombre de spikes, ce qui se traduit par un SNN avec moins d'événements à traiter, et ainsi, réduire la consommation énergétique sous-jacente. Pour cela, deux techniques nouvelles ont été proposées : "First Spike", qui se caractérise par l'utilisation d’un seul spike au maximum par donnée ; "Spike Select", qui permet de réguler et de minimiser l'activité globale du SNN.Dans la partie d’exploration RTL, nous avons comparé de manière quantitative un certain nombre d’architectures de SNN avec différents niveaux de parallélisme et multiplexage de calculs. En effet, le codage "Spike Select" engendre une régulation de la distribution des spikes, avec la majorité générée dans la première couche et peu d'entre eux propagés dans les couches profondes. Nous avons constaté que cette distribution bénéficie d’une architecture hybride comportant une première couche parallèle et les autres multiplexées. Par conséquent, la combinaison du "Spike Select" et de l'architecture hybride serait une solution efficace, avec un compromis efficace entre coût matériel, consommation et latence.Enfin, en se basant sur les choix architecturaux et neuronaux issus de l'exploration précédente, nous avons élaboré une architecture évènementielle dédiée aux SNNs mais suffisamment programmable pour supporter différents types et tailles de réseaux de neurones. L'architecture supporte les couches les plus utilisées : convolution, pooling et entièrement connectées. En utilisant cette architecture, nous serons bientôt en mesure de comparer les ANNs et les SNNs sur des applications réalistes et enfin conclure sur l'utilisation des SNNs pour l'IA embarquée.

Neurophysiological experiments on monkeys and rodents have highlighted the neural mechanisms of decision-making. Neural signals, that are correlated with specific elements of the decision-making process, reflect an accumulation of evidence until the decision is reached.In this thesis, I study a dynamic neural network model that uses a balance between excitation and inhibition to account for the mechanism of evidence accumulation. This model qualitatively accounts for neurophysiological data but has not been compared quantitatively with behavioral results from decision experiments with humans. During decision-making experiments, many behavioral effects can be observed, such as the slowing down of the decision after an error. Modeling these effects is critical to reproduce the decision-making process in animals and humans. I explore these different effects from the point of view of the neural attractor model. Despite the fact that this framework does not consist in the most common to study decision-making and its effects, it allows for detailed biophysical mechanisms.In this thesis, I show that this level of modeling does not just correspond to a refinement of the standard framework but is essential to reproduce some behavioral measures. Using a relaxation dynamics, the network accounts for many of the sequential effects such as history biases, post-error slowing and post-error improvement in accuracy. In a second step I have developed a psychophysics experiment in order to study confidence in decision-making. I have shown that an attractor network reproduces the sense of confidence of the participants, as well as the sequential effects due to confidence. These results show that the non-linear dynamics, characteristic of attractor neural networks, is essential to reproduce various aspects of decision-making.The last part of this manuscript consists in a study of the neural coding of information in a decision network. I focus on the learning process of a categorization task by the network. I show that a modulation of the reward signal by the confidence leads to a more efficient learning of the categorization task.; De nombreuses expériences neurophysiologiques sur les singes et rongeurs ont mis en évidence certains mécanismes neuronaux de la prise de décision. Des signaux neuronaux qui sont corrélés avec des éléments spécifiques de la prise de décision réflètent un processus d'accumulation d'évidence afin de prendre la décision. Dans cette thèse, j'étudie un modèle de réseau neuronal dynamique qui utilise un phénomène d'équilibre en excitation et inhibition pour rendre compte du mécanisme d'accumulation d'évidence. Ce modèle rend compte, qualitativement, des données neurophysiologiques mais a très peu été comparé aux résultats comportementaux d'expériences de prise de décision avec des humains. Lors de la prise de décision, de nombreux effets comportementaux sont observables comme par exemple le ralentissement de la décision après une erreur. Reproduire ces effets est crucial pour comprendre le processus de prise de décisions chez les humains et les animaux. J'explore ces différents effets du point de vue du modèle à attracteur neuronaux. Bien qu'il ne s'agisse pas du cadre le plus utilisé dans l'étude de la prise de décision et ses effets, il permet l'étude de méchanismes biophysiques détaillés.Dans cette thèse je montre que ce niveau de modélisation ne constitue pas uniquement un simple perfectionnement du cadre standard mais qu'il est essentiel pour certains effets comportementaux. Grâce à un phénomène de relaxation, le réseau attracteur reproduit de nombreux séquentiels comme les biais de répétitions, le ralentissement après-erreur ou encore l'amélioration des performances après-erreur. Dans un second temps j'ai développé une expérience psychophysique qui permet l'étude de la confiance lors de la prise de décision. J'ai montré qu'un réseau attracteur reproduit la notion de confiance des participants, ainsi que les effets séquentiels dues à la confiance. Ces différents résultats montre que la dynamique non-linéaire, caractéristique des réseau attracteurs, est essentielle pour reproduire de nombreux aspcts de la prise de décision.La dernière partie de ce manuscrit consiste en l'étude du codage neuronal de l'information dans un réseau de prise de décisions. Je me concentre sur le processus d'apprentissage d'une tâche de catégorisation. Je montre que la modulation par la confiance du signal de récompense conduit à un apprentissage plus efficace de la part du système.

The computational function of the neuronal discharge rates in the processing of information by the brain today seems improbable, even though the principle of psychoneural identity has led to remarkable practical results. Coincidence detection, coherent oscillations of neural territories, phase locking and/or phase advances in neuronal timing suggest the use by the brain of a precise time coding. This code, however, perhaps do not aim at a precise description of the environment, but rather at the statistical characterization of the causes of the received stimulations, taking into account the wealth of acquired knowledge, in a typically Bayesian processing of information., Le rôle computationnel des taux de décharge des neurones dans le traitement de l'information dans le cerveau semble aujourd'hui improbable, même si le principe de l'identité psychoneurale a conduit à de remarquables résultats pratiques. La détection de coïncidences, la mise en oscillation de territoires neu-ronaux, le calage de phase et/ou les avances de phase des émissions neuronales suggèrent l'utilisation par le cerveau d'un codage temporel précis. Ce codage, toutefois, ne vise peut-être pas à la description précise de l'environnement, mais plutôt à la caractérisation statistique des causes des stimulations re-çues compte tenu des connaissances acquises, dans un traitement typiquement bayésien. Mots-clés codage neuronal ; codage temporel ; coïncidence ; oscillations cohérentes ; codage de phase ; information ; Bayes I INTRODUCTION Voici quelques dizaines d'années que l'on enseigne que le cerveau contient 85 ou 100 milliards de neurones, que l'information sensorielle y est acheminée et dirigée vers des aires spécifiques pour y être traitée, et que dans les aires primaires la fréquence de décharge des neurones est à proportion de la ressemblance entre l'information transmise par les nerfs au cerveau et le « champ récep-teur » des neurones 1 : c'est le principe de l'identité psychoneurale. Nous allons tâcher de relativi-ser, voire réviser ces principes en nous intéressant à l'utilisation de la variable temporelle par le cerveau. Mais reconnaissons d'abord qu'il y a d'excellents arguments pour appuyer cet enseignement. Par exemple, une cellule pyramidale de l'aire visuelle primaire du cerveau est accordée pour une localisation précise et une orientation précise du contour visuel (son champ récepteur), et les décharges du neurone décroissent pour des localisations voisines ou des orientations de contour moins accordées. Naturellement, à chaque aire successive de traitement de l'information dans le cerveau, il n'y a pas qu'une seule cellule qui répond à la stimulation mais un grand nombre. Selon 1 Le champ récepteur d'un neurone est l'ensemble des caractéristiques d'une stimulation extérieure (localisation dans l'espace, intensité, etc.) qui provoquent une réponse de ce neurone, sous la forme d'une augmentation de son taux de décharges.

Consciousness, Dreams, and Inference : The Cartesian Theatre Revisited. This paper considers the Cartesian theatre as a metaphor for the virtual reality models that the brain uses to make inferences about the world. This treatment derives from our attempts to understand dreaming and waking consciousness in terms of free energy minimization. The idea here is that the Cartesian theatre is not observed by an internal (homuncular) audience but furnishes a theatre in which fictive narratives and fantasies can be rehearsed and tested against sensory evidence. We suppose the brain is driven by the imperative to infer the causes of its sensory samples ; in much the same way as scientists are compelled to test hypotheses about experimental data. This recapitulates Helmholtz’s notion of unconscious inference and Gregory’s treatment of perception as hypothesis testing. However, we take this further and consider the active on our virtual reality. The ensuing picture of consciousness (or active inference) resolves a number of seemingly hard problems in consciousness research and is internally consistent with current thinking in systems neuroscience and theoretical neurobiology. In this formalism, there is a dualism that distinguishes between the (conscious) process of inference and the (material) process that entails inference. This separation is reflected by the distinction between beliefs (probability distributions over hidden world states or res cogitans) and the physical brain states (sufficient statistics or res extensa) that encode them. This formal approach allows us to appeal to simple but fundamental theorems in information theory and statistical thermodynamics that dissolve some of the mysterious aspects of consciousness., Cet article envisage le théâtre cartésien comme une métaphore des modèles de réalité virtuelle utilisés par le cerveau afin de réaliser des inférences concernant le monde. Ce point de vue provient de nos tentatives de comprendre la conscience pendant les rêves et en état de veille en termes de minimisation de l’énergie libre. Dans cette optique, le théâtre cartésien n’est pas observé par une audience interne homonculaire, mais fournit un lieu où des narrations et fantaisies fictives peuvent être mis en scène et testés par rapport aux données sensorielles. On considère que le cerveau est impérativement amené à inférer les causes de ses entrées sensorielles, à la manière des scientifiques qui sont amenés à tester des hypothèses relatives à des données expérimentales. Ceci reprend l’idée de Helmholtz concernant l’inférence inconsciente, et la conception de Gregory selon laquelle la perception consiste en la mise à l’épreuve d’hypothèses. Cependant, nous allons plus loin, et considérons que l’échantillonnage actif du monde correspond à l’accumulation de confirmations d’hypothèses basées sur notre réalité virtuelle. Le tableau qui s’en dégage, celui de la conscience comme inférence active, résout un certain nombre de problèmes ardus dans la recherche sur la conscience ; il est de surcroît cohérent avec les travaux actuels en neurosciences systémiques et en neurobiologie théorique. Ce formalisme présente un dualisme qui distingue le processus (conscient) d’inférence et le processus (matériel) qui sous-tend l’inférence. Cette séparation se reflète dans la distinction entre les croyances (distributions de probabilités qui recouvrent des états du monde cachés, la res cogitans), et les états physiques du cerveau (statistiques suffisantes, la res extensa) qui les encodent. Cette approche formelle nous permet de faire appel à des théorèmes simples mais fondamentaux, en théorie de l’information et thermodynamique statistique, qui dissolvent certains aspects mystérieux de la conscience., Hobson John Allan, Friston Karl J. Conscience, rêves et inférence : le théâtre cartésien revisité. In: Intellectica. Revue de l'Association pour la Recherche Cognitive, n°67, 2017/1. Les états modifiés de conscience en question : anciennes limites et nouvelles approches. pp. 139-163.

Rate and temporal coding in Purkinje cells (PC), the sole output of the cerebellar cortex, play a major role in motor control. PC receives excitatory inputs from granule cells (GC) which also provide feedforward inhibition on PC through the activation of molecular layer interneurons (MLI). In this thesis, I studied the influence of the combined action of excitation/inhibition (E/I) balance and short-term plasticity of GC-MLI-PC synapses on PC discharge, by using electrophysiological recordings, optogenetic stimulation and modelling. This work demonstrates that E/I balances are not equalized in the cerebellar cortex and showed a wide distribution of PC discharge modulation in response to GC inputs, from an increase to a shut down of the discharge. The number of stims in GC bursts strongly controls the strength and sign of PC modulation. Lastly, the interplay between short-term plasticity and E/I balance implements complex but reproducible output patterns of PC responses to GC inputs that should play a key role in stimulus encoding by the cerebellar cortex., La décharge des cellules de Purkinje (CP), neurone de sortie du cortex cérébelleux, joue un rôle majeur dans le contrôle moteur. Les CP reçoivent des entrées excitatrices provenant des cellules des grains (CG), lesquelles génèrent également une inhibition antérograde sur les CP via l’activation d’interneurones de la couche moléculaire (IN). Lors de ma thèse, j’ai étudié l’influence simultanée de la balance excitation-inhibition (E/I) et des plasticités à court terme aux synapses CG-IN-CP sur la décharge des CP, par des techniques d’électrophysiologie, d’optogénétique et de simulation. Ces travaux démontrent l’existence d’une hétérogénéité d’E/I dans le cortex cérébelleux ainsi qu’une grande diversité de modulation des CP en réponse à la stimulation de CG. Le nombre de stimulation des CG influence fortement la direction et l’intensité de la modulation observée. Enfin, la combinaison de plasticités à court terme et d’E/I génère dans la décharge des CP des motifs de réponses complexes mais reproductibles, ayant sans doute un rôle essentiel dans l’encodage sensoriel.

Recent experimental advances have made it possible to record up to several hundreds of neurons simultaneously in the cortex or in the retina. Analyzing such data requires mathematical and numerical methods to describe the spatio-temporal correlations in population activity. This can be done thanks to Maximum Entropy method. Here, a crucial parameter is the product N×R where N is the number of neurons and R the memory depth of correlations (how far in the past does the spike activity affects the current state). Standard statistical mechanics methods are limited to spatial correlation structure with R = 1 (e.g. Ising model) whereas methods based on transfer matrices, allowing the analysis of spatio-temporal correlations, are limited to NR ≤ 20. In the first part of the thesis we propose a modified version of the transfer matrix method, based on the parallel version of the Montecarlo algorithm, allowing us to go to NR=100. In a second part we present EnaS, a C++ library with a Graphical User Interface developed for neuroscientists. EnaS offers highly interactive tools that allow users to manage data, perform empirical statistics, modeling and visualizing results. Finally, in a third part, we test our method on synthetic and real data sets. Real data set correspond to retina data provided by our partners neuroscientists. Our non-extensive analysis shows the advantages of considering spatio-temporal correlations for the analysis of retina spike trains, but it also outlines the limits of Maximum Entropy methods.; L’évolution des techniques d’acquisition de l’activité neuronale permet désormais d'enregistrer simultanément jusqu’à plusieurs centaines de neurones dans le cortex ou dans la rétine. L’analyse de ces données nécessite des méthodes mathématiques et numériques pour décrire les corrélations spatiotemporelles de la population neuronale. Une méthode couramment employée est basée sur le principe d’entropie maximale. Dans ce cas, le produit N×R, où N est le nombre de neurones et R le temps maximal considéré dans les corrélations, est un paramètre crucial. Les méthodes de physique statistique usuelles sont limitées aux corrélations spatiales avec R = 1 (Ising) alors que les méthodes basées sur des matrices de transfert, permettant l’analyse des corrélations spatio-temporelles (R > 1), sont limitées à N×R≤20. Dans une première partie, nous proposons une version modifiée de la méthode de matrice de transfert, basée sur un algorithme de Monte-Carlo parallèle, qui nous permet d’aller jusqu’à N×R=100. Dans la deuxième partie, nous présentons la bibliothèque C++ Enas, dotée d’une interface graphique développée pour les neurobiologistes. Enas offre un environnement hautement interactif permettant aux utilisateurs de gérer les données, effectuer des analyses empiriques, interpoler des modèles statistiques et visualiser les résultats. Enfin, dans une troisième partie, nous testons notre méthode sur des données synthétiques et réelles (rétine, fournies par nos partenaires biologistes). Notre analyse non exhaustive montre l’avantage de considérer des corrélations spatio-temporelles pour l’analyse des données rétiniennes; mais elle montre aussi les limites des méthodes d’entropie maximale.

How do neurons dynamically encode and treat information? Each neuron communicates with its distinctive language made of long silences intermitted by occasional spikes. The spikes are prompted by the pooled effect of a population of pre-synaptic neurons. To understand the operation made by single neurons is to create a quantitative description of their dynamics. The results presented in this thesis describe the necessary elements for a quantitative description of single neurons. Almost all chapters can be unified under the theme of adaptation. Neuronal adaptation plays an important role in the transduction of a given stimulation into a spike train. The work described here shows how adaptation is brought by every spike in a stereotypical fashion. The spike-triggered adaptation is then measured in three main types of cortical neurons. I analyze in detail how the different adaptation profiles can reproduce the diversity of firing patterns observed in real neurons. I also summarize the most recent results concerning the spike-time prediction in real neurons, resulting in a well-founded single-neuron model. This model is then analyzed to understand how populations can encode time-dependent signals and how time-dependent signals can be decoded from the activity of populations. Finally, two lines of investigation in progress are described, the first expands the study of spike-triggered adaptation on longer time scales and the second extends the quantitative neuron models to models with active dendrites.

In this thesis, we present different approaches for statistical learning that can be used for studying the neural code of cognitive functions, based on brain functional Magnetic Resonance Imaging (fMRI) data. In particular, we study the spatial organization of the neural code, i.e. the spatial localization and the respective weights of the different entities implied in the neural coding. In this thesis, we focus on the visual cortex. In the first part of this thesis, we introduce the notions of functional architecture, neural coding and functional imaging. Then, we study the limits of the classical approach for the characterization of the neural code from fMRI images, and the advantages of a recent method of analysis, namely inverse inference. Finally, we detail the statistical learning approaches used for inverse inference, and we evaluate them on real data. This study highlights the limitations of these approaches, that will be addressed during this thesis. In particular, we focus on the use of spatial information within statistical learning methods. In a second part, we describe the three main contributions of this thesis. First, we introduce a Bayesian framework for sparse regularization, that generalizes two reference approaches. Then, we propose a supervised clustering method, that takes into account the spatial structure of the images. The resulting weighted maps are easily interpretable, and this approach seems particularly interesting in the case of inter-subjects inference. The last contribution of this thesis aims at including the spatial information into the regularization framework. This regularization is thus used in both regression and classification settings, and extracts clusters of predictive voxels. This approach is well suited for the decoding problem addressed in this thesis., Dans ce mémoire, nous présentons différentes méthodes d'apprentissage statistique qui peuvent être utilisées pour comprendre le code neuronal des fonctions cognitives, en se basant sur des données d'Imagerie par Résonance Magnétique fonctionnelle du cerveau. Plus particulièrement, nous nous intéressons à l'´etude de la localisation spatiale des entités impliquées dans le codage, et leur influence respective dans le processus cognitif. Dans cette étude, nous nous focalisons principalement sur l'étude du cortex visuel. Dans la première partie de ce mémoire, nous introduisons les notions d'architecture fonctionnelle cérébrale, de codage neuronal et d'imagerie fonctionnelle. Nous étudions ensuite les limites de l'approche classique d'analyse des données d'IRMf pour l'étude du codage neuronal, et les différents avantages apportées par une méthode d'analyse récente, l'inférence inverse. Enfin, nous détaillons les méthodes d'apprentissage statistique utilisées dans le cadre de l'inférence inverse, et nous les évaluons sur un jeu de données réelles. Cette étude permet de mettre en évidence certaines limitations des approches classiquement utilisées, que cette thèse vise à résoudre. En particulier, nous nous intéressons à l'intégration de l'information sur la structure spatiale des données, au sein d'approches d'apprentissage statistique. Dans la seconde partie de ce mémoire, nous décrivons les trois principales contributions de cette thèse. Tout d'abord, nous introduisons une approche Bayésienne pour la régularisation parcimonieuse, qui généralise au sein d'un même modèle plusieurs approches de références en régularisation Bayésienne. Ensuite nous proposons un algorithme de coalescence supervisé (supervised clustering) qui tient compte de l 'information spatiale contenue dans les images fonctionnelles. Les cartes de poids résultantes sont facilement interprétables, et cette approche semble être bien adaptée au cas de l'inférence entre sujets. La dernière contribution de cette thèse vise à inclure l'information spatiale au sein d'un modèle de régularisation. Cette régularisation peut alors être utilisée dans un cadre de régression et de classification, et permet d'extraire des ensembles connexes de voxels prédictifs. Cette approche est particulièrement bien adaptée à l'étude de la localisation spatiale du codage neuronal, abordée durant cette thèse.

In the rapid visual processing theory, visual information is encoded in the firing latency of the cells, a scheme that readily explains its speed. In the present thesis, we show that, within this theory, spike timing-dependent plasticity (STDP) can explain the development of neural selectivities that will produce fast and selective responses. A neuron will indeed systematically tune to the earliest spikes through STDP, when the firing patterns elicited by a stimulus yield some form of temporal structure. This law leads, at the population level, to the emergence of representations inspired by the ventral stream, when the system is presented with natural images. Besides we also show, through a psychophysical experiment, that rapid visual processing not only is accurate but that it also yields a quasi-invariance to stimulus rotation., La théorie du traitement visuel rapide se base sur un codage par latence de l'information visuelle, et explique ainsi sa rapidité. Nous démontrons dans cette thèse qu'un mécanisme de plasticité synaptique dépendant des temps de décharges, la STDP, permet, au sein de cette théorie, d'expliquer la formation de sélectivités neuronales à même de produire des réponses rapides et sélectives. Par STDP, un neurone va concentrer ses poids synaptiques sur les entrées les plus précoces, une loi qui se traduit au niveau des populations par l'émergence de représentations inspirées de la voie ventrale, lorsque le système est exposé à des images naturelles.Nous montrons de plus, par une expérience de psychophysique, que le traitement visuel rapide est non seulement précis mais qu'il présente aussi une quasi-invariance à la rotation des images.

In the rapid visual processing theory, visual information is encoded in the firing latency of the cells, a scheme that readily explains its speed. In the present thesis, we show that, within this theory, spike timing-dependent plasticity (STDP) can explain the development of neural selectivities that will produce fast and selective responses. A neuron will indeed systematically tune to the earliest spikes through STDP, when the firing patterns elicited by a stimulus yield some form of temporal structure. This law leads, at the population level, to the emergence of representations inspired by the ventral stream, when the system is presented with natural images. Besides we also show, through a psychophysical experiment, that rapid visual processing not only is accurate but that it also yields a quasi-invariance to stimulus rotation.; La théorie du traitement visuel rapide se base sur un codage par latence de l'information visuelle, et explique ainsi sa rapidité. Nous démontrons dans cette thèse qu'un mécanisme de plasticité synaptique dépendant des temps de décharges, la STDP, permet, au sein de cette théorie, d'expliquer la formation de sélectivités neuronales à même de produire des réponses rapides et sélectives. Par STDP, un neurone va concentrer ses poids synaptiques sur les entrées les plus précoces, une loi qui se traduit au niveau des populations par l'émergence de représentations inspirées de la voie ventrale, lorsque le système est exposé à des images naturelles.Nous montrons de plus, par une expérience de psychophysique, que le traitement visuel rapide est non seulement précis mais qu'il présente aussi une quasi-invariance à la rotation des images.

Much information is conveyed to animals by the diverse molecules propagated in their environment. This information is transmitted and treated within the olfactory system to be utilized by the rest of the brain. In this process, the sensory flow arriving from the nose first encounters the olfactory bulb. This thesis studies different aspects of the encoding and treatment of olfactory information in the bulb by a combination of experimental and theoretical approaches. The olfactory bulb consists of two functional stages: an input stage where the nerve terminals from the sensory neurons of the nose are spatially arranged in a precise manner, and an output stage corresponding to the neurons which propagate the processed information towards the more central brain areas. The first part of this thesis is focused on the development of an image processing technique to precisely map the input stage. In a second part, output neurons activity in responsive areas of the bulb was recorded in anaesthetized mice. The data obtained indicate complex dynamics in neural activity on several time scales. We show that the combination of mean firing rates from a large enough ensemble of neurons allows to accurately predict the odor presented to the animal. We also show that temporal variables related to the dynamics give very little information complementary to the ensemble rate code, suggesting that these variables are not read by brain structures downstream to the bulb. In a third part, we developed a numerical model of the olfactory bulb to understand its fast oscillatory dynamics. The model proposes a mechanism based on the negative feedback from the interneurons that regulate output neurons. Some predictions of the model are checked experimentally. An analytical interpretation of the model is also proposed and its generalization to the analysis of fast oscillation in other parts of the brain is discussed.

Nowadays, Artificial Intelligence (AI) is a widespread concept applied to many fields such as transportation, medicine and autonomous vehicles. The main AI algorithms are artificial neural networks, which can be divided into two families: Spiking Neural Networks (SNNs), which are bio-inspired models resulting from neuroscience, and Analog Neural Networks (ANNs), which result from machine learning. The ANNs are experiencing unprecedented success in research and industrial fields, due to their recent successes in many application contexts such as image classification and object recognition. However, they require considerable computational capacity for their deployment which is not adequate to very constrained systems such as 'embedded systems'. To overcome these limitations, many researchers are interested in brain-inspired computing, which would be the perfect alternative to conventional computers based on the Von Neumann architecture (CPU/GPU). This paradigm meets computing performance but not energy efficiency requirements. Hence, it is necessary to design neuromorphic hardware circuits adaptable to parallel and distributed computing. In this context, we have set criteria in terms of accuracy and hardware implementation cost to differentiate the two neural families (SNNs and ANNs). In the case of simple network topologies, we conducted a study that has shown that the spiking models have significant gains in terms of hardware cost when compared to the analog networks, with almost similar prediction accuracies. Therefore, the objective of this thesis is to design a generic neuromorphic architecture that is based on spiking neural networks. To this end, we have set up a three-level design flow for exploring and implementing neuromorphic architectures.In an energy efficiency context, a thorough exploration of different neural coding paradigms for neural data representation in SNNs has been carried out. Moreover, new derivative versions of rate-based coding have been proposed that aim to get closer to the activity produced by temporal coding, which is characterized by a reduced number of spikes propagating in the network. In this way, the number of spikes can be reduced so that the number of events to be processed in the SNNs gets smaller. The aim in doing this approach is to reduce the hardware architecture's energy consumption. The proposed coding approaches are: First Spike, which is characterized using at most one single spike to present an input data, and Spike Select, which allows to regulate and minimize the overall spiking activity in the SNN.In the RTL design exploration, we quantitatively compared three SNN architectural models having different levels of computing parallelism and multiplexing. Using Spike Select coding results in a distribution regulation of the spiking data, with most of them generated within the first layer and few of them propagate into the deep layers. Such distribution benefits from a so-called 'hybrid architecture' that includes a fully-parallel part for the first layer and multiplexed parts to the other layers. Therefore, combining the Spike Select and the Hybrid Architecture would be an effective solution for embedded AI applications, with an efficient hardware and latency trade-off.Finally, based on the architectural and neural choices resulting from the previous exploration, we have designed a final event-based architecture dedicated to SNNs supporting different neural network types and sizes. The architecture supports the most used layers: convolutional, pooling and fully-connected. Using this architecture, we will be able to compare analog and spiking neural networks on realistic applications and to finally conclude about the use of SNNs for Embedded Artificial Intelligence.; Dans le contexte actuel, l’Intelligence Artificielle (IA) est largement répandue et s’applique à de nombreux domaines tels que les transports, la médecine et les véhicules autonomes. Parmi les algorithmes d'IA, on retrouve principalement les réseaux de neurones, qui peuvent être répartis en deux familles : d'une part, les Réseaux de Neurones Impulsionnels (SNNs) qui sont issus du domaine des neurosciences ; d'autre part, les Réseaux de Neurones Analogiques (ANNs) qui sont issus du domaine de l'apprentissage machine. Les ANNs connaissent un succès inédit grâce à des résultats inégalés dans de nombreux secteurs tels que la classification d'images et la reconnaissance d'objets. Cependant, leur déploiement nécessite des capacités de calcul considérables et ne conviennent pas à des systèmes très contraints. Afin de pallier ces limites, de nombreux chercheurs s'intéressent à un calcul bio-inspiré, qui serait la parfaite alternative aux calculateurs conventionnels basés sur l'architecture de Von Neumann. Ce paradigme répond aux exigences de performance de calcul, mais pas aux exigences d'efficacité énergétique. Il faut donc concevoir des circuits matériels neuromorphiques adaptés aux calculs parallèles et distribués. Dans ce contexte, nous avons établi un certain nombre de critères en termes de précision et de coût matériel pour différencier les SNNs et ANNs. Dans le cas de topologies simples, nous avons montré que les SNNs sont plus efficaces en termes de coût matériel que les ANNs, et ce, avec des précisions de prédiction quasiment similaires. Ainsi, dans ce travail, notre objectif est de concevoir une architecture neuromorphique basée sur les SNNs. Dans cette perspective, nous avons mis en place un flot de conception composé de trois niveaux, qui permet la réalisation d’une architecture neuromorphique dédiée et adaptée aux applications d’IA embarquée.Dans un contexte d'efficacité énergétique, nous avons réalisé une étude approfondie sur divers paradigmes de codage neuronal utilisés avec les SNNs. Par ailleurs, nous avons proposé de nouvelles versions dérivées du codage fréquentiel, visant à se rapprocher de l'activité produite avec le codage temporel, qui se caractérise par un nombre réduit d'impulsions (spikes) se propageant dans le SNN. En faisant cela, nous sommes en mesure de réduire le nombre de spikes, ce qui se traduit par un SNN avec moins d'événements à traiter, et ainsi, réduire la consommation énergétique sous-jacente. Pour cela, deux techniques nouvelles ont été proposées : "First Spike", qui se caractérise par l'utilisation d’un seul spike au maximum par donnée ; "Spike Select", qui permet de réguler et de minimiser l'activité globale du SNN.Dans la partie d’exploration RTL, nous avons comparé de manière quantitative un certain nombre d’architectures de SNN avec différents niveaux de parallélisme et multiplexage de calculs. En effet, le codage "Spike Select" engendre une régulation de la distribution des spikes, avec la majorité générée dans la première couche et peu d'entre eux propagés dans les couches profondes. Nous avons constaté que cette distribution bénéficie d’une architecture hybride comportant une première couche parallèle et les autres multiplexées. Par conséquent, la combinaison du "Spike Select" et de l'architecture hybride serait une solution efficace, avec un compromis efficace entre coût matériel, consommation et latence.Enfin, en se basant sur les choix architecturaux et neuronaux issus de l'exploration précédente, nous avons élaboré une architecture évènementielle dédiée aux SNNs mais suffisamment programmable pour supporter différents types et tailles de réseaux de neurones. L'architecture supporte les couches les plus utilisées : convolution, pooling et entièrement connectées. En utilisant cette architecture, nous serons bientôt en mesure de comparer les ANNs et les SNNs sur des applications réalistes et enfin conclure sur l'utilisation des SNNs pour l'IA embarquée.