Search

As the quantity and size of available data grow, the existing algorithms for solving sparse inverse problems can become computationally intractable. In this work, we explore two main strategies for accelerating such algorithms. First, we study the use of structured dictionaries which are fast to operate with. A particular family of dictionaries, written as a sum of Kronecker products, is proposed. Then, we develop stable screening tests, which can safely identify and discard useless atoms (columns of the dictionary matrix which do not correspond to the solution support), despite manipulating approximate dictionaries.; En raison de la vertigineuse croissance des données disponibles, la complexité computationnelle des algorithmes traitant les problèmes inverses parcimonieux peut vite devenir un goulot d'étranglement. Dans cette thèse, nous explorons deux stratégies pour accélérer de tels algorithmes. D'abord, nous étudions l'utilisation de dictionnaires structurés rapides à manipuler. Une famille de dictionnaires écrits comme une somme de produits Kronecker est proposée. Ensuite, nous développons des tests d'élagage sûrs, capables d'identifier et éliminer des atomes inutiles (colonnes de la matrice dictionnaire ne correspondant pas au support de la solution), malgré l'utilisation de dictionnaires approchés.

The present report summarizes the research activities that I have carried out since completion of my PhD. My attention has focused on the fundamental signal processing problem of source signal estimation from the observation of corrupted measurements, in scenarios where the measured data can be considered as unknown linear transformations of the sources. Two typical problems of this kind are the deconvolution or equalization of channels introducing linear distortions and source separation in linear mixtures. The blind approach makes as few assumptions as possible about the problem in hand: these typically reduce to the statistical independence of the sources and the invertibility of the channel or mixing matrix characterizing the propagation medium. Despite the advantages that have driven the interest in these techniques since the 70's, blind criteria also present some important drawbacks such as the existence of estimation ambiguities, the presence of local extrema leading to spurious solutions, and a high computational complexity often linked to slow convergence. My research has been devoted to the design of novel signal estimation techniques alleviating the drawbacks and thus improving the performance of the blind approach. Special emphasis has been laid on two specific applications in telecommunications and biomedical engineering: equalization and source separation in digital communication channels and atrial activity extraction in surface electrocardiogram recordings of atrial fibrillation patients. Most of the proposed techniques can be considered as semi-blind in that they aim at exploiting available prior information about the problems under study other than source independence; e.g., the existence of training data in communication systems or specific properties about the atrial source in atrial fibrillation. In communications, the approaches that I have explored include algebraic solutions to contrast functions based on digital modulations, the combination of blind and training-based contrasts into semi-blind criteria, and an iterative optimization technique with an optimal step-size coefficient computed algebraically. Our efforts to extract the atrial signal in multi-lead atrial fibrillation recordings has led not only to new contrast functions based on second- and higher-order statistics incorporating priors about the source statistics, but also to novel results of clinical and physiological significance about this challenging cardiac condition. The report concludes by proposing some possible avenues for the continuation of this work. This investigation has been carried out in collaboration with a number of colleagues in France and abroad, and has also comprised the joint supervision of several PhD students. The resulting contributions have given rise to over sixty publications in international journals, conferences and book chapters. A compilation of selected publications is attached to this document.; Ce rapport résume mes activités de recherche depuis l'obtention de mon doctorat. Je me suis penché sur le problème fondamental de l'estimation de signaux sources à partir de l'observation de mesures corrompues de ces signaux, dans des scénarios où les données mesurées peuvent être considérées comme une transformation linéaire inconnue des sources. Deux problèmes classiques de ce type sont la déconvolution ou égalisation de canaux introduisant des distorsions linéaires, et la séparation de sources dans des mélanges linéaires. L'approche dite aveugle essaie d'exploiter un moindre nombre d'hypothèses sur le problème à résoudre : celles-ci se réduisent typiquement à l'indépendance statistique des sources et l'inversibilité du canal ou de la matrice de mélange caractérisant le milieu de propagation. Malgré les avantages qui ont suscité l'intérêt pour ces techniques depuis les années soixante-dix, les critères aveugles présentent aussi quelques inconvénients importants, tels que l'existence d'ambiguïtés dans l'estimation, la présence d'extrema locaux associés à des solutions parasites, et un coût de calcul élevé souvent lié à une convergence lente. Ma recherche s'est consacrée à la conception de nouvelles techniques d'estimation de signal visant à pallier aux inconvénients de l'approche aveugle et donc à améliorer ses performances. Une attention particulière a été portée sur deux applications dans les télécommunications et le génie biomédical : l'égalisation et la séparation de sources dans des canaux de communications numériques, et l'extraction de l'activité auriculaire à partir des enregistrements de surface chez les patients souffrant de fibrillation auriculaire. La plupart des techniques proposées peuvent être considérées comme étant semi-aveugles, dans le sens où elles visent à exploiter des informations a priori sur le problème étudié autres que l'indépendance des sources ; par exemple, l'existence de symboles pilotes dans les systèmes de communications ou des propriétés spécifiques de la source atriale dans la fibrillation auriculaire. Dans les télécommunications, les approches que j'ai explorées incluent des solutions algébriques aux fonctions de contraste basées sur la modulation numérique, la combinaison de contrastes aveugles et supervisés dans des critères semi-aveugles, et une technique d'optimisation itérative basée sur un pas d'adaptation calculé algébriquement. Nos efforts visant à extraire le signal atrial dans des enregistrements de fibrillation auriculaire nous ont permis non seulement de dégager de nouvelles fonctions de contraste basées sur les statistiques de second ordre et d'ordre élevé incorporant l'information a priori sur les statistiques des sources, mais aussi d'aboutir à de nouveaux résultats d'impact clinique et physiologique sur ce trouble cardiaque encore mal compris. Ce rapport se conclut en proposant quelques perspectives pour la continuation de ces travaux. Ces recherches ont été menées en collaboration avec un nombre de collègues en France et à l'étranger, et ont également compris le co-encadrement de plusieurs doctorants. Les contributions qui en ont découlé ont donné lieu à plus de soixante publications dans des journaux, des conférences et des ouvrages collectifs à caractère international. Quelques-unes de ces publications sont jointes à ce document.

The present report summarizes the research activities that I have carried out since completion of my PhD. My attention has focused on the fundamental signal processing problem of source signal estimation from the observation of corrupted measurements, in scenarios where the measured data can be considered as unknown linear transformations of the sources. Two typical problems of this kind are the deconvolution or equalization of channels introducing linear distortions and source separation in linear mixtures. The blind approach makes as few assumptions as possible about the problem in hand: these typically reduce to the statistical independence of the sources and the invertibility of the channel or mixing matrix characterizing the propagation medium. Despite the advantages that have driven the interest in these techniques since the 70's, blind criteria also present some important drawbacks such as the existence of estimation ambiguities, the presence of local extrema leading to spurious solutions, and a high computational complexity often linked to slow convergence. My research has been devoted to the design of novel signal estimation techniques alleviating the drawbacks and thus improving the performance of the blind approach. Special emphasis has been laid on two specific applications in telecommunications and biomedical engineering: equalization and source separation in digital communication channels and atrial activity extraction in surface electrocardiogram recordings of atrial fibrillation patients. Most of the proposed techniques can be considered as semi-blind in that they aim at exploiting available prior information about the problems under study other than source independence; e.g., the existence of training data in communication systems or specific properties about the atrial source in atrial fibrillation. In communications, the approaches that I have explored include algebraic solutions to contrast functions based on digital modulations, the combination of blind and training-based contrasts into semi-blind criteria, and an iterative optimization technique with an optimal step-size coefficient computed algebraically. Our efforts to extract the atrial signal in multi-lead atrial fibrillation recordings has led not only to new contrast functions based on second- and higher-order statistics incorporating priors about the source statistics, but also to novel results of clinical and physiological significance about this challenging cardiac condition. The report concludes by proposing some possible avenues for the continuation of this work. This investigation has been carried out in collaboration with a number of colleagues in France and abroad, and has also comprised the joint supervision of several PhD students. The resulting contributions have given rise to over sixty publications in international journals, conferences and book chapters. A compilation of selected publications is attached to this document.; Ce rapport résume mes activités de recherche depuis l'obtention de mon doctorat. Je me suis penché sur le problème fondamental de l'estimation de signaux sources à partir de l'observation de mesures corrompues de ces signaux, dans des scénarios où les données mesurées peuvent être considérées comme une transformation linéaire inconnue des sources. Deux problèmes classiques de ce type sont la déconvolution ou égalisation de canaux introduisant des distorsions linéaires, et la séparation de sources dans des mélanges linéaires. L'approche dite aveugle essaie d'exploiter un moindre nombre d'hypothèses sur le problème à résoudre : celles-ci se réduisent typiquement à l'indépendance statistique des sources et l'inversibilité du canal ou de la matrice de mélange caractérisant le milieu de propagation. Malgré les avantages qui ont suscité l'intérêt pour ces techniques depuis les années soixante-dix, les critères aveugles présentent aussi quelques inconvénients importants, tels que l'existence d'ambiguïtés dans l'estimation, la présence d'extrema locaux associés à des solutions parasites, et un coût de calcul élevé souvent lié à une convergence lente. Ma recherche s'est consacrée à la conception de nouvelles techniques d'estimation de signal visant à pallier aux inconvénients de l'approche aveugle et donc à améliorer ses performances. Une attention particulière a été portée sur deux applications dans les télécommunications et le génie biomédical : l'égalisation et la séparation de sources dans des canaux de communications numériques, et l'extraction de l'activité auriculaire à partir des enregistrements de surface chez les patients souffrant de fibrillation auriculaire. La plupart des techniques proposées peuvent être considérées comme étant semi-aveugles, dans le sens où elles visent à exploiter des informations a priori sur le problème étudié autres que l'indépendance des sources ; par exemple, l'existence de symboles pilotes dans les systèmes de communications ou des propriétés spécifiques de la source atriale dans la fibrillation auriculaire. Dans les télécommunications, les approches que j'ai explorées incluent des solutions algébriques aux fonctions de contraste basées sur la modulation numérique, la combinaison de contrastes aveugles et supervisés dans des critères semi-aveugles, et une technique d'optimisation itérative basée sur un pas d'adaptation calculé algébriquement. Nos efforts visant à extraire le signal atrial dans des enregistrements de fibrillation auriculaire nous ont permis non seulement de dégager de nouvelles fonctions de contraste basées sur les statistiques de second ordre et d'ordre élevé incorporant l'information a priori sur les statistiques des sources, mais aussi d'aboutir à de nouveaux résultats d'impact clinique et physiologique sur ce trouble cardiaque encore mal compris. Ce rapport se conclut en proposant quelques perspectives pour la continuation de ces travaux. Ces recherches ont été menées en collaboration avec un nombre de collègues en France et à l'étranger, et ont également compris le co-encadrement de plusieurs doctorants. Les contributions qui en ont découlé ont donné lieu à plus de soixante publications dans des journaux, des conférences et des ouvrages collectifs à caractère international. Quelques-unes de ces publications sont jointes à ce document.