Hamza, Anis Amazigh, Institut d’Électronique, de Microélectronique et de Nanotechnologie - Département Opto-Acousto-Électronique - UMR 8520 (IEMN-DOAE), Institut d’Électronique, de Microélectronique et de Nanotechnologie - UMR 8520 (IEMN), Centrale Lille-Institut supérieur de l'électronique et du numérique (ISEN)-Université de Valenciennes et du Hainaut-Cambrésis (UVHC)-Université de Lille-Centre National de la Recherche Scientifique (CNRS)-Université Polytechnique Hauts-de-France (UPHF)-Centrale Lille-Institut supérieur de l'électronique et du numérique (ISEN)-Université de Valenciennes et du Hainaut-Cambrésis (UVHC)-Université de Lille-Centre National de la Recherche Scientifique (CNRS)-Université Polytechnique Hauts-de-France (UPHF), Centrale Lille-Université de Lille-Centre National de la Recherche Scientifique (CNRS)-Université Polytechnique Hauts-de-France (UPHF)-JUNIA (JUNIA), Université catholique de Lille (UCL)-Université catholique de Lille (UCL), COMmunications NUMériques - IEMN (COMNUM - IEMN), INSA Institut National des Sciences Appliquées Hauts-de-France (INSA Hauts-De-France), Institut National des Sciences Appliquées (INSA)-Institut National des Sciences Appliquées (INSA)-Institut d’Électronique, de Microélectronique et de Nanotechnologie - UMR 8520 (IEMN), Université catholique de Lille (UCL)-Université catholique de Lille (UCL)-Centrale Lille-Université de Lille-Centre National de la Recherche Scientifique (CNRS)-Université Polytechnique Hauts-de-France (UPHF)-JUNIA (JUNIA), Université Polytechnique Hauts-de-France, Iyad Dayoub, Abderrahmane Amrouche, and Ihsen Alouani
Thèse sous confidentialité du jury jusqu’au 05/02/2026 puis sous embargo de l’auteur jusqu’au 05/08/2027.; The fifth generation of cellular networks (5G) was a real revolution in radio access technologies and mobile networks, presenting itself as the breakthrough generation that allowed the coexistence of extremely diversified applications and usage scenarios, unified under the same standard. Nevertheless, 5G is just the beginning: new scenarios and challenges are emerging. Therefore, the research community is pushing the research ahead and preparing the ground for beyond 5G (B5G) cellular systems. In this regard, several enabling technologies are investigated. In addition to the cognitive radio (CR), mmWave, massive MIMO, or even the use of full-duplex (FD), non-orthogonal multiple access (NOMA) emerged as a promising technology that allows multiple users to share the same resource block and hence, optimizes resource allocation, reduces the end-to-end latency, and improves both spectrum and energy efficiencies. Those advantages make NOMA a serious candidate as a multiple access scheme for future B5G networks, especially for the demanding eHealth applications. Furthermore, NOMA can be flexibly combined with any wireless technology such as cooperative communication, FD, mmWave, and multicarrier modulation (MCM).Motivated by this treatise, this thesis provides a comprehensive and intensive examination of this emerging technology, particularly, cooperative NOMA (CNOMA) which is considered a promising enabling technology for future B5G eHealth networks, from the basic principles to its combination with the full-duplex technology, MCM transmission, to deep learning as well as enhancing the physical layer security (PLS).First, this thesis investigates the error rate performance of FD-CNOMA systems over wireless fading channels. New closed-form expressions of the exact bit error rates (BER) are derived. Moreover, high-SNR analyses are conducted, which reveals that FD-CNOMA has an error floor due to the successive interference cancellation (SIC) imperfections and residual self-interference (RSI). Based on the derived expressions, a novel selective relaying scheme is proposed to opportunistically improve the system performance using the minimal channel state information (CSI) overhead.Second, the MCM-based CNOMA is examined under doubly selective channels encountered in vehicular and railway wireless communications. In the eHealth context, this can be projected to ambulance emergency healthcare use cases. More importantly, this thesis presents a performance improvement method for cell-edge users of MCM-NOMA systems with imperfect SIC and imperfect CSI under doubly selective wireless channels. Two efficient iterative interference cancellation schemes are proposed to enable user relaying for MCM-based CNOMA. The proposed schemes are robust for high mobility scenarios with a relatively low computational complexity.Third and last, advances in machine learning based on deep neural networks (DNNs) attracted great attention in the wireless communication community (WCS). It is regarded as a key component of B5G networks. Deep learning has found a broad range of applications in wireless systems, e.g., spectrum sensing, waveform design, SIC, and channel estimation. However, DNNs are known to be highly susceptible to adversarial attacks. Many robust over-the-air adversarial attacks against DNN-based WCS have been proposed in the literature. This is becoming a major challenge facing the physical layer security (PLS) of DNN-based WCS. To overcome this vulnerability, this thesis proposes a novel robust defense approach. The objective of our defense is to protect the victim without significantly degrading the accuracy of its baseline model in the absence of the attack. The obtained results are very promising and confirm that the proposed defense technique can enhance significantly the PLS of future DNN-based WCS.; La cinquième génération de réseaux cellulaires (5G) a été une véritable révolution des technologies du réseau d'accès radio et du réseau mobile de base, se présentant comme la génération de rupture qui permet la cohabitation d'applications et usages extrêmement diversifiés, unifiés au sein d'une même technologie. Néanmoins, la 5G n'est qu'un début : de nouveaux scénarios et défis émergent. Par conséquent, la communauté des chercheurs prépare le terrain pour les systèmes cellulaires au-delà de la 5G (B5G). À cet égard, plusieurs technologies habilitantes sont étudiées. Outre la radio intelligente, l'utilisation des mmWaves, la technologie MIMO massive, ou encore l'utilisation de full-duplex (FD). L'accès multiple non orthogonal (NOMA) est apparu comme une technologie prometteuse qui permet à plusieurs utilisateurs de partager les mêmes ressources et optimise ainsi l'allocation des ressources, réduit la latence, et améliore à la fois l'efficacité spectrale et énergétique. Ces avantages font de NOMA un candidat sérieux en tant que système d'accès multiple pour les futurs réseaux B5G, en particulier pour les applications de la eSanté. NOMA peut être combiné de manière flexible avec n'importe quelle technologie sans fil telle que la communication coopérative, le full-duplex (FD), mmWave et les modulations multi-porteuses (MCM).Cette thèse propose une étude approfondie de cette technologie émergente, en particulier le NOMA coopératif (CNOMA) qui est considéré comme une technologie prometteuse pour les systèmes sans fil B5G et des futurs réseaux de eSanté, en commençant par présenter ses principes de base ainsi que sa combinaison avec la technologie FD, la transmission MCM, l'apprentissage en profondeur, ainsi qu'à l'amélioration de la sécurité de la couche physique (PLS).Tout d'abord, cette thèse étudie les performances du taux d'erreur des systèmes FD-CNOMA avec les canaux d'évanouissement sans fil. De nouvelles expressions des taux d'erreur binaire sont dérivées. De plus, des analyses à SNR élevé sont effectuées, ce qui a montré que FD-CNOMA a un plancher d'erreur en raison des imperfections du SIC et des résidus des auto-interférences. Sur la base des expressions dérivées, un nouveau schéma de relais sélectif est proposé pour améliorer de manière opportuniste les performances du système, en utilisant la surcharge minimale d'informations d'état de canal (CSI).Deuxièmement, le CNOMA basé sur MCM est examiné sous des canaux doublement sélectifs. Dans le contexte de la eSanté, cela peut être projeté sur les cas d'utilisation d'urgence en ambulance. Plus important encore, cette thèse présente une méthode d'amélioration des performances pour les utilisateurs lointains des systèmes MCM-NOMA avec un SIC imparfait et CSI imparfait sous des canaux sans fil doublement sélectifs. Deux schémas efficaces d'annulation d'interférence sont proposés pour améliorer le CNOMA basé sur MCM. Les schémas proposés sont robustes pour des scénarios de mobilité élevée avec une complexité de calcul relativement faible.Troisièmement et enfin, les progrès de l'apprentissage profond basé sur les réseaux de neurones (DNN) ont attiré une grande attention dans la communauté des communications sans fil (WCS). L'apprentissage profond a trouvé un large éventail d'applications dans les systèmes sans fil. Cependant, les DNN sont connus pour être très sensibles aux attaques contradictoires. De nombreuses attaques contradictoires robustes visant des systèmes sans fil basés sur les DNN ont été proposées dans la littérature. Cela devient un défi majeur pour la sécurité de la couche physique (PLS). Pour surmonter cette vulnérabilité, cette thèse propose une nouvelle technique de défense dont l'objectif est de protéger la victime sans dégrader la précision de son modèle de base en l'absence d'attaque. Les résultats obtenus sont très prometteurs et confirment que la technique de défense proposée peut améliorer la PLS d'une manière significative.