نبذة مختصرة : Dans les systèmes neuromorphiques, tels que les réseaux de neurones à décharges, les stimuli externes variant dans le temps tels que le son doivent être encodés en des trains de décharges. Un train de décharges est un signal temporel qui ne peut prendre que deux valeurs: une décharge (aussi appelée évènement), ou du silence. Un train de décharges peut convenablement être représenté par une séquence de 0 et de 1. L'encodage en décharges de stimuli externes doit être fait avec une « bonne » qualité pour que les trains de décharges soient utiles aux systèmes neuromorphiques qui les prennent en entrée. Alors que l'on peut juger de la qualité d'un son, par exemple, en utilisant directement notre perception sensorielle, il est impossible de faire la même chose avec un train de décharges. La qualité d'un encodage en décharges doit donc être évaluée de façon indirecte. Les travaux de recherche en neuromorphique ont négligé la question de l'encodage en décharges au profit d'autres questions de recherche telles que les règles d'apprentissage. Or, l'étape de l'encodage est primordiale, car toute information perdue à cette étape sur les stimuli originels ne peut être récupérée par la suite. Ce qui rend la question encore plus délicate est le fait que les représentations en décharges sont très limitées en termes de capacité de codage. Dit autrement, les trains de décharges sont binaires, ne pouvant prendre que deux valeurs, alors que les stimuli externes à encoder prennent des valeurs réelles en général. La question de l'encodage en décharges des signaux qui varient dans le temps a été approchée de plusieurs manières, et il existe par conséquent plusieurs techniques d'encodage. Certaines de ces techniques s'inspirent de la biologie, sous l'hypothèse implicite que si l'on mimique l'encodage qui se passe réellement dans les systèmes sensoriels, alors on peut avoir confiance en la qualité de l'encodage en décharges résultant, sans nécessairement évaluer de façon rigoureuse cette qu
Dans les systèmes neuromorphiques, les signaux variant dans le temps doivent être encodés en trains de décharges. Il existe plusieurs techniques pour faire cela. L’étape de l’encodage en décharges est importante parce qu’elle représente un goulet d’étranglement dans un système neuromorphique. Si l’encodage en décharges est de mauvaise qualité, la performance du système est compromise parce que le système ne peut travailler qu’avec l’information disponible initialement dans les trains de décharges en entrée. L’approche traditionnelle permettant d’évaluer la qualité de l’encodage en décharges est basée sur la reconstruction du signal à partir des décharges. Cependant, cette approche de décodage souffre de limitations importantes, dont notamment la nécessité d’avoir un modèle de décodage. Une alternative est d’utiliser la théorie de l’information qui est indépendante des modèles et qui représente un formalisme mathématique bien adapté à l’étude de l’encodage en décharges étant donné que les trains de décharges sont binaires. Ce projet de recherche propose trois utilisations de la théorie de l’information pour des fins d’évaluation de l’encodage en décharges de signaux qui varient dans le temps. Premièrement, la théorie de l’information est utilisée pour optimiser les paramètres d’encodage en maximisant l’information mutuelle entre le signal et les décharges. Ceci donne une configuration initiale de paramètres qui peut être utilisée comme point de départ pour l’amélioration de la performance dans les applications neuromorphiques. Deuxièmement, des métriques d’efficacité basées sur la théorie de l’information sont proposées pour l’analyse comparative des techniques d’encodage en décharges. Les métriques proposées sont l’efficacité de codage, l’efficacité computationnelle, et l’efficacité énergétique. Ces métriques permettent de faire la comparaison et la sélection des techniques d’encodage en décharges. Troisièmement, l’information mutuelle multivariée est utilisée pour
In neuromorphic systems, time-varying signals must be encoded into spike trains. Many spike encoding techniques exist. The spike encoding stage is important because it represents a bottleneck in a neuromorphic system. If spike encoding is of bad quality, the performance of the system is compromised because the system can only work with the information that is initially available in the input spike trains. The traditional approach to evaluate the quality of spike encoding is based on the reconstruction of the signal from the spikes. This decoding approach, however, suffers from important limitations, most notably the reliance on a decoding model. An alternative is to use information theory, which is model-independent and represents a mathematical framework well suited to the study of spike encoding, as spike trains are binary. This research project proposes three uses of information theory for the purpose of evaluating the spike encoding of time-varying signals. First, information theory is used to optimize the encoding parameters by maximizing the mutual information between the signal and the spikes. This gives an initial parameter configuration that can be used as a baseline for further improvement in performance in neuromorphic applications. Second, information-theoretic efficiency metrics are proposed for the benchmarking of spike encoding techniques. The proposed metrics are coding efficiency, computational efficiency, and energy efficiency. These metrics allow the comparison and selection of spike encoding techniques. Third, multivariate mutual information is used to configure the encoding parameters of a population of neurons that encode the same signal. More specifically, the Partial Information Decomposition framework is used to propose an algorithm that maximizes the total information in a population of neurons. Population coding allows better encoding of signals and the proposed algorithm makes a judicious parameter choice to maximize the inform
Processing Request
No Comments.