Testing variance components in nonlinear mixed effects models

Mixed effects models are widely used to describe heterogeneity in a population, in particular inter and intra individual variabilities. A crucial issue when adjusting such a model to data consists in identifying the fixed and random effects of the model, also called population and individual parameters, respectively. The firstt ones can be considered constant in the population, whereas the second ones vary among individuals.From a statistical point of view, it can be expressed like a test on the nullity of the variances of a given subset of random effects. This issue of variance components testing has been addressed by several authors. In the context of linear mixed effects models, likelihood ratio test procedures have been proposed and results identifying the limiting distribution as well as the finite sample size distribution of the test statistic have been established. Another approach based on the score test is also available. In nonlinear mixed effects models, some authors have also proposed to use the likelihood ratio test. They have established its asymptotic distribution in the particular case of testing thenullity of the variance in a mixed effects model with one single random effect. Indeed, this issue is strongly related to the one of testing parameter values under constraints. In this case, it amounts to testing that the random effect variance parameters are on the boundary of the parameter space. In this paper, we study the likelihood ratio test properties for testing that the variances of a subset of the random effects are equal to zero in a nonlinear mixed effects model, extending the existing results.We prove that the asymptotic distribution of the test statistics is a chi-bar-square distribution, i.e. a mixture of chi-square distributions, and identify the corresponding weights. We highlight in particular that the limiting distribution depends on the presence of correlations between the random effects. We illustrate the finite sample size properties of the test procedure through simulation studies.; Les modèles à effets mixtes sont très souvent utilisés pour décrire l’hétérogénéité dans une population, et en particulier pour distinguer la variabilité intra et inter-individuelle. L’une des questions principales qui se posent lorsqu’on ajuste un tel modèle à des données est celle de l’identification des effets fixes et aléatoires du modèle, aussi appelés respectivement paramètres de population et paramètres individuels. Les premiers peuvent être considérés comme constants dans la population, alors que les seconds varient d’un individu à l’autre. D’un point de vue statistique, ce problème peut se reformuler sous la forme d’un test d’hypothèses portant sur la nullité des variances d’un sous-ensemble d’effets aléatoires. Cette question des tests sur des composantes de la variance a été traitée par plusieurs auteurs. Dans le cas des modèles linéaires mixtes, des procédures basées sur le test du rapport de vraisemblance ont été proposées. Les distributions asymptotique et à distance finie de la statistique de test ont été établies. Une autre approche basée sur le test du score a aussi été développée. Dans le cas des modèles non linéaires mixtes, des auteurs ont également proposé d’utiliser un test du rapport de vraisemblance et ont établi la loi asymptotique de la statistique de test dans le cas particulier où l’on teste la nullité de la variance dans un modèle contenant un seul effet aléatoire. Cette question est fortement liée à celle des tests sous contraintes. En effet, tester que des variances d’effets aléatoires sont nulles revient à tester des valeurs sur la frontière de l’espace des paramètres. Dans ce papier, nous étendons les résultats existants et étudions les propriétés du test du rapport de vraisemblance portant sur la nullité des variances d’un sous-ensemble quelconque d’effets aléatoiresdans un modèle non linéaire mixte. Nous prouvons que la loi asymptotique de la statistique de test est une loi du chi-bar-square, c’est-à-dire un mélange de lois du chi-deux, et identifions les poids correspondants. Nous montrons en particulier que cette loi limite dépend de la présence de corrélations entre les effets aléatoires. Enfin, nous illustrons les propriétés du test à distance finie à l’aide de simulations.