Estimateur de type Lasso pour modèle mixte non-paramétrique

National audience; La vraisemblance pénalisée par une norme L1 est devenue relativement standard en grande dimension quand le modèle est supposé basé sur n observations indépendantes et identiquement distribuées. Ces techniques peuvent améliorer la capacité de prédiction (la régularisation implique une réduction de la variance) tout en restant in-terprétable (la sparsité identifie un sous ensemble de variable avec des effets forts). D'un point de vue computationnel, ces pénalités sont attractives et leurs propriétés théoriques ontétéontété largementétudiéeslargementétudiées cesdernì eres années. Plusieurs auteurs ont récemment suggérer des méthodes pour analyser les données lon-gitudinales ou groupées de grandes dimensions utilisant une pénalisation L 1 dans des modèles mixtes. Ces approches ontétéontété développées pour la sélection de variables dans le cas modèle linéaire mixte et modèle linéaire mixte généralisé mais moins dans le cas de modèle non linéaire mixte. Peu de travaux ont considéré leprobì eme de sélection de fonctions non linéaire utilisant une méthode de pénalisation de type L 1 dans un modèle mixte non paramétrique avec ou non des covariables. Dans ce cas, les fonctions non linéaire sont approximées par une com-binaison linéaire de fonction de lissage (spline, wavelet ou bases de Fourier) possiblement combinéescombinéesà des fonctionsirrégulì eres (bases de Spiky). Abstract. The penalization of likelihoods by L1-norms has become a relatively standard technique for high-dimensional data when the assumed models are based on n independent and identically distributed observations. These techniques may improve prediction accuracy (since regularization leads to variance reduction) together with interpretabil-ity (since sparsity identifies a subset of variables with strong effects). Computationally, these penalties are attractive and their theoretical properties have been intensively studied during the last years. Several authors have recently developed suggestions to analyze high-dimensional clustered 1