Search

This HDR manuscript presents recent Information-Theoretic tools that bring new insights into Game Theoretical problems, such as the coordination of players’ actions and the processing of strategic information. Although Information Theory and Game Theory have distinct fields of application, these two theories rely on similar mathematical tools. Such problems arise for the design of autonomous devices and for the study of the behavior of rational agents. New generations of communication networks involve devices that take decisions with greater autonomy. These machines observe their environment, interact, cooperate with other machines or with humans, adapt dynamically to their environment and to the topology of the network. The lossy source coding theorem of Shannon (1959) is the cornerstone of our study. Given a communication capacity constraint, this theorem characterizes the optimal coding scheme to compress an information source. The coding performances are evaluated via a fidelity criterion which we interpret as a cost function to be minimized. We revisit this coding problem by adopting a Game-Theoretical point of view, in which each player optimizes his own cost function which depends on the actions of other players. First, we investigate the capacity of an encoder and a decoder to coordinate their actions with the symbols of an information source. For this purpose, the action sequence of the encoder encapsulates a degraded version of the source symbols, which serves to coordinate the future actions of the decoder. We characterize the solutions of several instances of the coordination problem in Chap. IV, and in Chap. V, we extend these results in several directions, i.e. for channel state leakage problems, for decentralized control problems and for strong coordination problems. The strategic nature of the information transmission is studied in Chap. VI when the communication is passed through a noisy channel. We consider that the encoder commits to implementing a signalling strategy before it observes the source symbols, as in the Bayesian persuasion game. As perspectives, we will study the impact of communication constraints on the transmission of strategic information in mechanism design problems, as in Jackson and Sonnenschein (2007), and in cheap talk games, see Crawford and Sobel (1982). Another direction of research consists in deepening optimization problems that arise in strategic coding, by using tools from Graph Theory and Convex Optimization. We believe that these results will also bring a new point of view on open problems in repeated games with imperfect observation and incomplete information. The goal is to build a theory that encompasses the standard coding results in Information Theory, and the results for the sender-receiver games., Ce manuscrit d’HDR présente des résultats récents de Théorie de l’Information qui apportent un éclairage nouveau sur des problèmes de Théorie des Jeux, tels que la coordination des actions des joueurs ou le traitement de l’information stratégique. Bien que la Théorie de l’Information et la Théorie des Jeux aient des champs d’application distincts, ces deux théories s’appuient sur des outils mathématiques similaires. Les problèmes de coordination et d’information stratégique se posent pour la conception de réseaux d’appareils autonomes et pour l’étude du comportement d’agents rationnels. Les nouvelles générations de réseaux de communication intègrent des appareils qui prennent des décisions avec une plus grande autonomie. Ces machines observent leur environnement, interagissent, coopèrent avec d’autres machines ou avec des humains, s’adaptent dynamiquement à leur environnement et à la topologie du réseau. Le théorème de codage de source avec perte de Shannon (1959) est la pierre angulaire de notre étude. Étant donnée une contrainte de capacité de communication, ce théorème caractérise le schéma de codage optimal pour compresser une source d’information. Les performances du codage sont évaluées via un critère de fidélité que nous interprétons comme une fonction de coût à minimiser. Nous revisitons ce problème de codage en adoptant le point de vue de la Théorie des Jeux, dans lequel chaque joueur optimise sa propre fonction de coût qui dépend des actions des autres joueurs. Tout d’abord, nous étudions la capacité d’un encodeur et d’un décodeur à coordonner leurs actions avec les symboles générés par une source d’information. A cet effet, la suite d’actions de l’encodeur encapsule une version dégradée des symboles de source, qui sert à coordonner les futures actions du décodeur. Nous caractérisons les solutions de plusieurs instances du problème de coordination au Chap. IV, et au Chap. V, nous étendons ces résultats dans plusieurs directions, pour des problèmes de fuite d’état de canal, pour des problèmes de contrôle décentralisé et pour des problèmes de coordination forte. Le caractère stratégique de la transmission de l’information est étudié au Chap. VI lorsque les joueurs communiquent à travers un canal bruité. Nous considérons un encodeur s’engage à mettre en œuvre une stratégie, avant que les symboles de sources soient tirés, comme dans le jeu de persuasion Bayésienne. En guise de perspectives, nous étudierons l’impact des contraintes de communication sur la transmission d’informations stratégiques dans les problèmes de “mechanism design” de Jackson and Sonnenschein (2007), et dans les jeux de “cheap talk” de Crawford and Sobel (1982). Une autre direction de recherche consiste à approfondir les problèmes d’optimisation qui apparaissent pour le codage stratégique, en utilisant des outils issus de la Théorie des Graphes et de l’Optimisation Convexe. Nous pensons que ces résultats apporteront un point de vue nouveau sur les problèmes ouverts en jeux répétés avec observation imparfaite et information incomplète. L’objectif est de construire une théorie qui englobe les résultats de codage standard en théorie de l’information et les résultats pour les jeux “sender-receiver”.

This PhD thesis explores the principles of “polytopic musical recomposition” under musicological, algorithmic and perceptual aspects. Polytopic musical recompositions are defined as a type of musical variations which consists in creating new musical content by rearranging the temporal order of musical segments from an original material, while preserving some of its structural properties. The structural properties are described as a polytopic graph accounting for the similarities between segments at different time scales, according to the “System & Contrast” (S&C) model proposed by (Bimbot et al. 2012, 2016).Based on a creative approach, this work aims at proposing new paradigms for musical re-composition, but also to assess the relevance of the assumptions behind the polytopic model, as of how it accounts for musical structure.After a detailed presentation of the polytopic model and its usability to recompose musical contents, this PhD thesis evaluates the relevance of polytopic recompositions as opposed to random recompositions, by means of a perceptual test carried out on a population of listeners (Gillot et al., 2019). A first series of tests suggests a clear advantage of polytopic recompositions over comparable random recompositions, as regards the time-line disturbances. A second series of tests studies a set of algorithmic variants for estimating the optimal melodic segments for polytopic recompositions, so as to optimize them with respect to the melodic surface. The algorithms are based on the minimization of a complexity criterion relying on the S&C model combined with Optimal Transport principles. The set of algorithmic methods are compared to human annotations, but also evaluated in the context of perceptual tests on a panel of listeners, so as to assess their musical acceptability. Results indicate a relative agreement between the level of acceptability of the algorithmic methods versus human annotations, but they show relatively small differences between variants of automatic methods. The new concept of polytopic recompositions can be used interactively for creative purposes, and a prototype for mobile devices has been developed for music in MIDI format in partnership with the Kercodex SME.; Cette thèse explore sous différents aspects musicologiques, algorithmiques et perceptifs le principe des recompositions musicales dite « polytopiques ». Il s’agit d’un procédé de génération de variations musicales consistant à créer un nouveau contenu en réorganisant l’ordre temporel des motifs musicaux à partir d’un matériau d’origine, tout en préservant certaines propriétés de leurs relations structurelles. Ces relations structurelles sont décrites par un graphe polytopique qui rend compte des similarités entre motifs à différentes échelles de temps, sur la base du modèle « Système & Contraste » (S&C) proposé par (Bimbot et al. 2012, 2016). À travers une démarche créative, cette thèse vise à offrir de nouveaux paradigmes de recomposition musicale, mais également à évaluer la pertinence des hypothèses sousjacentes au modèle polytopique, en ce qu’il rend compte de la structure musicale. Après une présentation détaillée du modèle polytopique et de son utilisation pour recomposer des contenus musicaux, cette thèse évalue la pertinence des recompositions polytopiques par rapport à des recompositions aléatoires, grâce à un test perceptif mené sur un ensemble d’auditeurs (Gillot et al., 2019). Une première série de tests suggère un avantage net des recompositions polytopiques vis-à-vis de recompositions aléatoires comparables en terme de perturbations de l’ordonnancement temporel. Une seconde série de tests étudie différentes variantes d’algorithmes destinées à estimer la délimitation optimale des motifs mélodiques permettant d’obtenir des recompositions polytopiques satisfaisantes vis-à-vis de la surface musicale. Ces algorithmes sont basés sur la minimisation d’un critère de complexité alliant le modèle Système & Contraste et des principes de Transport Optimal. Cet ensemble de méthodes sont non seulement comparées à des annotations humaines, mais elles sont également soumises à une batterie de tests perceptifs sur un panel d’auditeurs, pour évaluer leur acceptabilité musicale. Les résultats indiquent une relative concordance entre les niveaux d’acceptabilité des méthodes testées et des annotations produites, avec toutefois de faibles écarts entre variantes des méthodes automatiques. Ce nouveau concept de recompositions polytopiques peut être utilisé de façon interactive à des fins créatives et un prototype pour applications mobiles a été développé en partenariat avec la PME Kercodex pour la musique au format MIDI.

Nous argumentons que l'estimation de l'information mutuelle entre des ensembles de variables aléatoires continues de hautes dimensionnalités peut être réalisée par descente de gradient sur des réseaux de neurones. Nous présentons un estimateur neuronal de l'information mutuelle (MINE) dont la complexité croît linéairement avec la dimensionnalité des variables et la taille de l'échantillon, entrainable par retro-propagation, et fortement consistant au sens statistique. Nous présentons aussi une poignée d'application ou MINE peut être utilisé pour minimiser ou maximiser l'information mutuelle. Nous appliquons MINE pour améliorer les modèles génératifs adversariaux. Nous utilisons aussi MINE pour implémenter la méthode du goulot d'étranglement de l'information dans un cadre de classification supervisé. Nos résultats montrent un gain substantiel en flexibilité et performance., We argue that the estimation of mutual information between high dimensional continuous random variables can be achieved by gradient descent over neural networks. We present a Mutual Information Neural Estimator (MINE) that is linearly scalable in dimensionality as well as in sample size, trainable through back-prop, and strongly consistent. We present a handful of applications on which MINE can be used to minimize or maximize mutual information. We apply MINE to improve adversarially trained generative models. We also use MINE to implement the Information Bottleneck, applying it to supervised classification; our results demonstrate substantial improvement in flexibility and performance in the settings.

Ageing is a complex phenomenon; 30% of the French population is considered as older adults. The diagnosis in geriatrics is therefore becoming a major issue for our society to prevent and cure age-related pathologies. Technological developments, in particular with virtual reality, offer new opportunities to propose more entertaining diagnostic methods. Cycléo is a bike simulator, adapted to the older adults, currently used for the entertainment in institutions dedicated to older adults. During the ride, the bike records various behavioral data. In this thesis our goal is to answer the following question: Is it possible to transform this recreational device into a diagnosis tool for geriatricians? In our study we used different signal processing methods (entropy, cross-correlation, cross-entropy, empirical mode decomposition, Bland-Altman diagram, ...) on the data recorded by the bike. This preliminary work is divided into two parts. In the first part, we considered the Cycléo data during recreational use to study several use conditions and the role of age on the results. In the second part, we performed dual-task tests with Cycléo, using a clinical trial protocol. Our goal was to study the possible matches between the results obtained using Cycleo and those obtained using a treadmill (gold-standard).; Le vieillissement est un phénomène complexe ; 30% de la population française en 2020 est considérée comme âgée. Le diagnostic en gériatrie devient donc un enjeu majeur pour notre société pour prévenir et guérir les pathologies liées à l'âge. L'évolution des technologies, avec notamment la réalité virtuelle, permet de développer de nouvelles méthodes de diagnostic plus ludiques. Cycléo est un simulateur de vélo, adapté aux personnes âgées, utilisé actuellement de manière récréative dans des établissements pour seniors. Au cours de son utilisation, le vélo enregistre différentes données comportementales. Dans cette thèse, nous souhaitons répondre à la question suivante : est-il possible de transformer cet appareil de loisir en un outil d'aide au diagnostic gériatrique ? Pour ce faire, nous avons utilisé différentes méthodes de traitement du signal (entropie, corrélation croisée, entropie croisée, décomposition modale empirique, diagramme de Bland-Altman, ...) sur les données enregistrées par le vélo. Ce travail préliminaire se structure en deux parties. Dans un premier temps, nous avons considéré les données de Cycléo lors d'un usage récréatif afin d'étudier le rôle de différentes conditions d'utilisation et l'influence de l'âge sur nos résultats. Dans un second temps, nous avons intégré Cycléo dans un protocole d'essai clinique. Notre objectif était d'étudier les éventuelles correspondances entre nos résultats et ceux obtenus grâce à l'utilisation du tapis de marche couramment employé dans les diagnostics gériatriques.

Ageing is a complex phenomenon; 30% of the French population is considered as older adults. The diagnosis in geriatrics is therefore becoming a major issue for our society to prevent and cure age-related pathologies. Technological developments, in particular with virtual reality, offer new opportunities to propose more entertaining diagnostic methods. Cycléo is a bike simulator, adapted to the older adults, currently used for the entertainment in institutions dedicated to older adults. During the ride, the bike records various behavioral data. In this thesis our goal is to answer the following question: Is it possible to transform this recreational device into a diagnosis tool for geriatricians? In our study we used different signal processing methods (entropy, cross-correlation, cross-entropy, empirical mode decomposition, Bland-Altman diagram, ...) on the data recorded by the bike. This preliminary work is divided into two parts. In the first part, we considered the Cycléo data during recreational use to study several use conditions and the role of age on the results. In the second part, we performed dual-task tests with Cycléo, using a clinical trial protocol. Our goal was to study the possible matches between the results obtained using Cycleo and those obtained using a treadmill (gold-standard).; Le vieillissement est un phénomène complexe ; 30% de la population française en 2020 est considérée comme âgée. Le diagnostic en gériatrie devient donc un enjeu majeur pour notre société pour prévenir et guérir les pathologies liées à l'âge. L'évolution des technologies, avec notamment la réalité virtuelle, permet de développer de nouvelles méthodes de diagnostic plus ludiques. Cycléo est un simulateur de vélo, adapté aux personnes âgées, utilisé actuellement de manière récréative dans des établissements pour seniors. Au cours de son utilisation, le vélo enregistre différentes données comportementales. Dans cette thèse, nous souhaitons répondre à la question suivante : est-il possible de transformer cet appareil de loisir en un outil d'aide au diagnostic gériatrique ? Pour ce faire, nous avons utilisé différentes méthodes de traitement du signal (entropie, corrélation croisée, entropie croisée, décomposition modale empirique, diagramme de Bland-Altman, ...) sur les données enregistrées par le vélo. Ce travail préliminaire se structure en deux parties. Dans un premier temps, nous avons considéré les données de Cycléo lors d'un usage récréatif afin d'étudier le rôle de différentes conditions d'utilisation et l'influence de l'âge sur nos résultats. Dans un second temps, nous avons intégré Cycléo dans un protocole d'essai clinique. Notre objectif était d'étudier les éventuelles correspondances entre nos résultats et ceux obtenus grâce à l'utilisation du tapis de marche couramment employé dans les diagnostics gériatriques.

During the last decade, the security of multimedia data, such as images, videos and 3D data, has become a major issue. With the development of the Internet, more and more images are transmitted over networks and stored in the cloud. This visual data is usually personal or may have a market value. Thus, computer tools have been developed to ensure their security.The purpose of encryption is to guarantee the visual confidentiality of images by making their content random. Moreover, during the transmission or archiving of encrypted images, it is often necessary to analyse or process them without knowing their original content or the secret key used during the encryption phase. This PhD thesis proposes to address this issue. Indeed, many applications exist such as secret images sharing, data hiding in encrypted images, images indexing and retrieval in encrypted databases, recompression of crypto-compressed images, or correction of noisy encrypted images.In a first line of research, we present a new method of high-capacity data hiding in encrypted images. In most state-of-the-art approaches, the values of the least significant bits are replaced to achieve the embedding of a secret message. We take the opposing view of these approaches by proposing to predict the most significant bits. Thus, a significantly higher payload is obtained, while maintaining a high quality of the reconstructed image. Subsequently, we showed that it was possible to recursively process all bit planes of an image to achieve data hiding in the encrypted domain.In a second line of research, we explain how to exploit statistical measures (Shannon entropy and convolutional neural network) in small pixel blocks (i.e. with few samples) to discriminate a clear pixel block from an encrypted pixel block in an image. We then use this analysis in an application to correct noisy encrypted images.Finally, the third line of research developed in this thesis concerns the recompression of crypto-compressed images. In the clear domain, JPEG images can be recompressed before transmission over low-speed networks, but the operation is much more complex in the encrypted domain. We then proposed a method for recompressing crypto-compressed JPEG images directly in the encrypted domain and without knowing the secret key, using a bit shift of the reorganized coefficients.; Durant cette dernière décennie, la sécurité des données multimédia, telles que les images, les vidéos et les données 3D, est devenue un problème majeur incontournable. Avec le développement d’Internet, de plus en plus d’images sont transmises sur les réseaux et stockées sur le cloud. Ces données visuelles sont généralement à caractère personnel ou peuvent avoir une valeur marchande. Ainsi, des outils informatiques permettant d’assurer leur sécurité ont été développés.Le but du chiffrement est de garantir la confidentialité visuelle des images en rendant aléatoire leur contenu. Par ailleurs, pendant la transmission ou l'archivage des images chiffrées, il est souvent nécessaire de les analyser ou de les traiter sans connaître leur contenu original, ni la clé secrète utilisée pendant la phase de chiffrement. Ce sujet de thèse propose de se pencher sur cette problématique. En effet, de nombreuses applications existent telles que le partage d’images secrètes, l'insertion de données cachées dans des images chiffrées, l’indexation et la recherche d’images dans des bases de données chiffrées, la recompression d'images crypto-compressées, ou encore la correction d’images chiffrées bruitées.Dans un premier axe de recherche, nous présentons tout d’abord une nouvelle méthode d’insertion de données cachées haute capacité dans le domaine chiffré. Dans la plupart des approches de l’état-de-l’art, les valeurs des bits de poids faible sont remplacées pour réaliser l’insertion d’un message secret. Nous prenons ces approches à contre-pied en proposant de prédire les bits de poids fort. Ainsi, une charge utile nettement supérieure est obtenue, tout en conservant une haute qualité de l’image reconstruite. Par la suite, nous montrons qu’il est en effet possible de traiter récursivement tous les plans binaires d’une image pour réaliser l’insertion de données cachées dans le domaine chiffré.Dans un second axe de recherche, nous expliquons comment exploiter des mesures statistiques (entropie de Shannon et réseau neuronal convolutif) dans des blocs de pixels de petite taille (i.e. avec peu d’échantillons) pour différencier un bloc en clair d’un bloc chiffré dans une image. Nous utilisons alors cette analyse dans une application à la correction d’images chiffrées bruitées.Enfin, le troisième axe de recherche développé dans ces travaux de thèse porte sur la recompression d’images crypto-compressées. Dans le domaine clair, les images JPEG peuvent être recompressées avant leur transmission sur des réseaux bas débit, mais l’opération est bien plus complexe dans le domaine chiffré. Nous proposons alors une méthode de recompression des images JPEG crypto-compressées directement dans le domaine chiffré et sans connaître la clé secrète, en s’appuyant sur un décalage binaire des coefficients réorganisés.

International audience; In the French intellectual context of the early 1960s, where American linguistics, in particular its mathematization, is still largely unknown, Jean Dubois largely contributed to the introduction in France of Harris’s distributional analysis and discourse analysis, of information theory and generative grammar. In this article, we will examine how Jean Dubois’s early works in the 1960-70s contributed to this dissemination, and try to assess his role in the introduction of American linguistic theories in France. In this perspective, we will examine his PhD dissertation on the lexicon where distributional analysis was applied for the first time in France, his work inspired by Roman Jakobson's conception of information theory, finally his work on discourse analysis largely inspired by Zellig S. Harris; those works were supplemented by his intense activity of publishing translations of American works. In order to assess his role in the introduction of American linguistic theories in France, we will study the way in which his immediate disciples resumed or continued his work in the area of ​​discourse analysis.; Dans le contexte intellectuel français du début des années 1960, où la linguistique américaine, en particulier sa mathématisation, est encore largement méconnue, Jean Dubois a largement contribué à l’introduction en France de l’analyse distributionnelle et de l’analyse de discours harrissiennes, de la théorie de l’information, enfin de la grammaire générative. Dans cet article, nous retracerons les premiers travaux de Jean Dubois des années 1960-70 ayant contribué à cette diffusion, en tentant d’évaluer son rôle en tant que passeur ou bien plus simplement de facilitateur. Dans cette perspective, nous examinerons sa thèse sur le lexique où l’analyse distributionnelle est appliquée pour la première fois en France, ses travaux inspirés des travaux de la conception de Roman Jakobson de la théorie de l’information, enfin ses travaux sur l’analyse de discours largement inspirés par ceux de Zellig S. Harris ; travaux alimentés et complétés par son important travail d’édition des traductions des travaux américains. Afin d’évaluer son rôle de passeur, nous étudierons la façon dont ses disciples immédiats ont repris ou poursuivi ses travaux dans le domaine de l’analyse de discours.