Search

Over the past years, deep neural networks have proved to be an essential element for developing intelligent solutions. They have achieved remarkable performances at a cost of a large size with deeper layers and millions of parameters. Therefore utilising these networks for developing augmented reality applications on limited resource platforms such as embedded devices or mobile phones is a challenging task. In this context, this thesis addresses the problem of neural networks compression and optimisation in order to enhance the performance of these models on limited resource systems.In the first part of this manuscript, we present an overview of different compression methods present in the literature as well as their strengths, their weaknesses and a brief comparison of these techniques. We are also interested in the methods that are allowing the optimisation of deep neural networks structure design, from simple modules to autonomous models building.In the second part, we show the feasibility of an augmented reality application in real-time using a deep learning model in order to achieve a face parsing task. By using adapted frameworks and an optimised architecture, we achieve the segmentation of different face components in real-time with a high level of consistency on an iPhone X.The last two parts are focused on the development and the evaluation of a new deep convolutional neural networks compression method. Based on a regularisation term which is defined on the filter coefficients of the model, our approach is inducing sparsity among the weights of the network. Thus, our method is redistributing the information between the model filters, enabling us to remove the filters with the smaller values. We show the performance of our method on classic classification tasks. We are also introducing the efficiency of our technique on more complex models and tasks such as classification, segmentation and detection problems while specialising these models on a subset of categories on several databases., Au cours de ces dernières années, les réseaux de neurones profonds se sont montrés être des éléments centraux dans le développement de solutions intelligentes. Ils ont atteint des performances remarquables au détriment de la grande taille de leurs modèles avec de nombreuses couches profondes et des millions de paramètres. Ainsi, utiliser ces modèles pour des applications en réalité augmentée devant fonctionner sur des plateformes possédant des ressources limitées comme des systèmes embarqués ou des smartphones est une tâche loin d'être évidente. Dans ce contexte, cette thèse s'intéresse au problème de la compression et de l'optimisation de réseaux de neurones dans le but de réduire la taille de leur modèle sur des systèmes ayant des ressources limitées.Nous présentons dans une première partie différentes méthodes de compression de la littérature ainsi que leurs forces, leurs faiblesses et une brève comparaison entre elles. Nous nous intéressons également aux méthodes permettant d'optimiser la construction des architectures de réseaux de neurones profonds, allant de simples modules à la construction autonome de modèles.Nous montrons dans une deuxième partie la faisabilité technique d'une application en réalité augmentée et en temps réel utilisant un modèle d'apprentissage profond pour de l'analyse de visages. En utilisant des frameworks adaptés et une architecture optimisée, nous arrivons à segmenter différents composants du visage de manière robuste en temps réel sur un iPhone X.Les deux dernières parties sont consacrées au développement et à l'évaluation d'une nouvelle méthode de compression de réseaux de neurones convolutifs profonds. Basée sur un terme de régularisation défini sur les coefficients des filtres du modèle, notre approche permet d'introduire de la dispersion au sein des poids du réseau. Cela a pour effet de redistribuer l'information entre les filtres du modèle, nous permettant de supprimer les filtres ayant une valeur faible suite à cette opération. Nous évaluons les performances de notre méthode sur des tâches de classification classiques. Nous introduisons aussi l'efficacité de notre technique sur des modèles et des tâches de classification, segmentation et détection plus complexes en spécialisant les modèles sur certaines sous-catégories de jeux de données.

Atomic Force Microscopy (AFM) appears as a very useful and versatile instrument for imaging surfaces and for characterizing materials properties at nanoscale such as electrical properties of thin layer materials. The electrical characterization notably involves a three-dimensional localization of the space charge within the submicron materials. Techniques derived from the AFM such as Electrostatic Force Microscopy (EFM) or Kelvin Force Microscopy (KFM); provide a considerable advantage, allowing the acquisition of new information down to nanoscale on the charge build up in dielectric materials and on their ability to store and dissipate charges. Concerning charge density determination, these techniques have been limited by their lack of in-depth sensitivity, i.e. it failed to determine precisely the spatial distribution of the charges in thin dielectric. Knowing charge distribution in the volume is mandatory for a better understanding of charge transport and trapping phenomena in thin dielectric films and at metal/dielectric interface. To overcome this issue, a new technique named Electrostatic Force Distance Curve (EFDC) has been proposed. The EFDC is based on the measurement of the electrostatic force between the AFM probe and the sample. Preliminary experimental results show that the EFDC seems to be sensitive to the location of the charge in 3D, or to electrostatic potential localization. However, the relative contribution of charge distribution (density, lateral/in-depth spreading) is unknown and need to be identified to point out EFDC ability to determine 3D charge distribution. The aim of this thesis is therefore to understand the relationship between the shape of EFDC and spatial distribution of the space charge in the material. In particular, answers have to be provided as the possibility to determine the relative contribution of charge distribution (density, lateral/in-depth spreading) using only EFDC. This is an inverse problem to be solved in order to recover, from experimental measurements, the electrostatic forces (EFDC) created by the charges, the spatial distribution of the charges (density, lateral/in-depth spreading). The thesis is divided into 3 parts. The first part is devoted to develop a realistic and complete model for electrostatic interaction between an AFM probe and a flat thin dielectric layer. In order to reproduce experimental conditions and to base the work on a well-controlled source of force, EFDCs were simulated over a polarized buried electrode within the dielectric. Results reveal a very good agreement between the model and experimental data. The second part is devoted to study EFDC sensitivity to charges localization in thin dielectric using this model. Numerical simulation is implemented to estimate the electrostatic force exerted on the AFM probe induced by a half-ellipsoid charge distribution. The sensitivity of the EFDC shape to charge localization is investigated for the charge cloud parameters as lateral radius, depth and charge density.Finally, we developed an inverse model to localize the injected charge in thin dielectric layers. This model will take an experimental force curve (EFDC) as the input and its output will be the charge cloud parameters: the radius, the density and the depth. Several optimization techniques are tested. The results show that different sets of parameters induce the same force curve (local minimums): charges with high depth and with low density seem to give the same results as surface charges with high density. In addition, we have proposed an original method to determine the lateral spreading of charges knowing only the distribution of the surface potential of the dielectric. By enriching the inverse model with this information, the results show that each EFDC corresponds to a single charge configuration. The optimization algorithm converges towards a global minimum; a unique triplet is then identified: radius, depth and charge density.; La microscopie à force atomique (AFM) est un instrument de mesure qui semble adapté à la caractérisation des matériaux diélectriques à l'échelle nanométrique. Cette caractérisation électrique passe notamment par une localisation tridimensionnelle de la charge d’espace au sein des matériaux submicroniques. Des techniques dérivées de l'AFM comme la microscopie à force électrostatique EFM, ou à force de Kelvin KFM, permettent d'obtenir de nouvelles informations, à l'échelle nanométrique, sur l'état de charge des isolants et sur leur capacité à stocker/dissiper les charges. Cependant, ces techniques ne permettent pas de connaître précisément la densité de charge ni sa répartition en profondeur, données indispensables pour une meilleure compréhension des phénomènes de transport et de piégeage de charge. Depuis quelques années, l’utilisation des courbes de force électrostatique, EFDC (Electrostatic Force-Distance Curve), basée sur la mesure des forces électrostatiques au cours de phases d'approche/retrait entre la sonde AFM et les charges stockées dans le matériau ont donné des résultats encourageant. En effet, les EFDC semblent montrer une sensibilité aux paramètres caractérisant la répartition spatiale de la charge dans les matériaux diélectriques (leur profondeur, leur répartition latéral, etc.). L’objectif principal de cette thèse est donc une meilleure compréhension des interactions en jeu lors des mesures EFDC pour la caractérisation électrique des matériaux de manière à améliorer la sensibilité de la mesure. En particulier, des réponses devront être apportées quant à la possibilité de connaître la répartition latérale et en profondeur des charges à l’aide des seules courbes EFDC. Il s’agit d’un problème inverse à résoudre pour recouvrer, à partir de mesures expérimentales, ici les forces électrostatiques créées par les charges, la répartition spatiale des charges. La thèse se décline en 3 parties. La première partie concerne le modèle 3D de l’AFM sous le logiciel commercial Comsol dans le but de simuler les EFDC induites par des charges en respectant 2 critères : un temps de calcul le plus faible possible, une précision la plus grande possible. La deuxième partie concerne l’étape de validation du modèle avec des données expérimentales. Pour avoir des données exploitables et au plus proche des conditions réelles, les charges sont dans un premier temps assimilées à des électrodes enfouies sous potentiel électrique. Les résultats issus de ces expériences sont ainsi comparés au modèle pour d’une part le valider et, d’autre part, initier notre étude sur la sensibilité des EFDCs sur les paramètres de localisation de la charge sur un cas où ses données de localisation sont accessibles expérimentalement (ici, les électrodes enfouies). Enfin, la troisième partie concerne l’utilisation de méthodes inverses dans le but de localiser la charge à partir des EFDCs. Plusieurs techniques d’optimisation sont testées. Les résultats montrent que des jeux de paramètres différents induisent une même courbe de force (plusieurs minimums locaux) : des charges en profondeur mais à faible densité semblent donner les mêmes résultats que des charges en surface mais à forte densité. De plus, nous avons proposé une méthode originale pour déterminer l’étalement latéral des charges en connaissant uniquement la distribution du potentiel en surface du diélectrique. En enrichissant le modèle inverse avec cette information, les résultats montrent que chaque EFDC correspond à une seule configuration de charges. L’algorithme d’optimisation convergeant vers un minimum global, un triplé unique est alors identifié : le rayon, la profondeur et la densité de charge.