Search

Figure S5. Comparison of power to detect main effects in the realistic simulation study. Power under a realistic context. The figures show the power to detect main effects of the three methods depending on R 2. (PDF 7 kb)

Figure S3. Discoveries in the realistic simulation study with R 2=0.4. Discoveries under a realistic context. Heatmaps of the ratio of the number of times where each variable was significant to the total number of simulations for R 2=0.4. (PDF 9 kb)

Figure S1. Comparison of power to detect main effects in the simplified simulation study. Power under a simplified context. The figures show the power to detect main effects of the three methods depending on R 2. (PDF 8 kb)

Background Genome-wide association studies (GWAS) aim at finding genetic markers that are significantly associated with a phenotype of interest. Single nucleotide polymorphism (SNP) data from the entire genome are collected for many thousands of SNP markers, leading to high-dimensional regression problems where the number of predictors greatly exceeds the number of observations. Moreover, these predictors are statistically dependent, in particular due to linkage disequilibrium (LD). We propose a three-step approach that explicitly takes advantage of the grouping structure induced by LD in order to identify common variants which may have been missed by single marker analyses (SMA). In the first step, we perform a hierarchical clustering of SNPs with an adjacency constraint using LD as a similarity measure. In the second step, we apply a model selection approach to the obtained hierarchy in order to define LD blocks. Finally, we perform Group Lasso regression on the inferred LD blocks. We investigate the efficiency of this approach compared to state-of-the art regression methods: haplotype association tests, SMA, and Lasso and Elastic-Net regressions. Results Our results on simulated data show that the proposed method performs better than state-of-the-art approaches as soon as the number of causal SNPs within an LD block exceeds 2. Our results on semi-simulated data and a previously published HIV data set illustrate the relevance of the proposed method and its robustness to a real LD structure. The method is implemented in the R package BALD (Blockwise Approach using Linkage Disequilibrium), available from http://www.math-evry.cnrs.fr/publications/logiciels. Conclusions Our results show that the proposed method is efficient not only at the level of LD blocks by inferring well the underlying block structure but also at the level of individual SNPs. Thus, this study demonstrates the importance of tailored integration of biological knowledge in high-dimensional genomic studies such as GWAS. Electronic supplementary material The online version of this article (doi:10.1186/s12859-015-0556-6) contains supplementary material, which is available to authorized users.

Networks allow the representation of interactions between objects. Their structures are often complex to explore and need some algorithmic and statistical tools for summarizing. One possible way to go is to cluster their vertices into groups having similar connectivity patterns. This chapter aims at presenting an overview of clustering methods for network vertices. Common community structure searching algorithms are detailed. The well-known Stochastic Block Model (SBM) is then introduced and its generalization to overlapping mixed membership structure closes the chapter. Examples of application are also presented and the main hypothesis underlying the presented algorithms discussed.

International audience; Le modèle graphique gaussien est un formalisme de travail bien adapté à la représentation de dépendances entre variables. Récemment, ce modèle a été l'objet de nombreuses études visant à la découverte de réseaux de régulation protéique ou génique. La littérature considère le cas où un seul réseau est inféré à partir d'un jeux de données. Cependant, les mesures d'expression de gènes étant peu nombreuses, il est d'usage courant de réunir plusieurs conditions expérimentales affectant les interactions entre protéines ou gènes, pour construire un seul jeu de donnée de plus grande taille. Dans cet article, nous proposons d'estimer un modèle graphique gaussien par condition expérimentale. Ces modèles sont estimés simultanément, en imposant une contrainte de régularité traduisant la proxi mité entre tâches. Nous explorons deux formes d'expression de cette contrainte : un a priori empirique sur les valeurs des corrélations partielles, et une pénalité visant à favoriser la découverte de réseaux similaires. Nous montrons l'intérêt de ces approches par une évaluation quantitative des performances sur des données simulées et réelles.

International audience; Les réseaux sont largement utilisés dans de nombreux domaines scientifiques afin de représenter les intéractions entre objets d'intérêt. Ainsi, en biologie, les réseaux de régulation s'appliquent à décrire les mécanismes de régulation des gènes, à partir de facteurs de transcription, tandis que les réseaux métaboliques permettent de représenter des voies de réactions biochimiques. En sciences sociales, ils sont couramment utilisés pour réprésenter les intéractions entre individus. Dans ce contexte, de nombreuses méthodes non-supervisées de clustering ont été développées afin d'extraire des informations, à partir de la topologie des réseaux. La plupart d'entre elles partitionne les noeuds dans des classes disjointes, en fonction de leurs profils de connection. Récemment, des études ont mis en évidence les limites de ces techniques. En effet, elles ont montré qu'un grand nombre de réseaux contenaient des noeuds connus pour appartenir à plusieurs groupes simultanément. Pour répondre à ce problème, nous proposons l'Overlapping Stochastic Block Model (OSBM). Cette approche autorise les noeuds à appartenir à plus d'une classe et généralise le très connu Stochastic Block Model (SBM), sous certaines hypothèses. Nous montrons que le modèle est identifiable dans des classes d'équivalence et nous proposons un algorithme d'inférence basé sur des techniques variationnelles globales et locales. Finalement, en utilisant des données simulées et réelles, nous comparons nos travaux avec d'autres approches.

International audience; In the last few years, there has been agrowing interest in studying biological networks. Many deterministic and probabilistic clustering methods have been developed. They aim at learning information from the presence or absence of links between pairs of vertices (genes or proteins). Given a network, almost all these techniques partition the vertices into disjoint clusters, according to their connection profile. However, recent studies have shown that these methods were too restrictive and that most of the existing biological networks contained overlapping clusters. To tackle this issue, we present in this paper a latent logistic model, that allows each vertex to belong to multiple clusters, as well as an efficient approximate inference procedure based on global and local variational techniques. We show the results that we obtained on a transcriptional regulatory network of yeast.

International audience; It is now widely accepted that knowledge can be learnt from networks by clustering their vertices according to connection profiles. Many deterministic and probabilistic methods have been developed. Given a network, almost all them partition the vertices into disjoint clusters. However, recent studies have shown that these methods were too restrictive and that most of the existing networks contained overlapping clusters. To tackle this issue, we present in this paper a latent logistic model, that allows each vertex to belong to multiple clusters, as well as an efficient approximate inference procedure based on global and local variational techniques. We show the results that we obtained on a transcriptional regulatory network of yeast.

International audience; La classification automatique (clustering) est un outil très utilisé en fouille de données (data mining). Elle permet notamment d'extraire d'un grand jeu de données des classes où les individus ont des caractéristiques similaires, et peut ainsi être utile dans plusieurs domaines : gestion, Web, contrôle industriel par émission acoustique ... Lorsque les données sont très volumineuses ou parviennent en temps réel, les méthodes habituelles de classification doivent être adaptées pour pouvoir répondre rapidement. Dans le cadre d'une application de contrôle de cuves sous pression, nous avons ainsi développé une méthode de classification automatique basée sur les modèles de mélange et sur une discrétisation préalable de données acoustiques. Nous présenterons sa mise en oeuvre sur des données simulées et sur des données réelles.

Nous proposons une méthode de discrimination non paramétrique conçue pour favoriser l'interprétabilité de la prédiction. D'une part, l'utilisation d'un modèle additif généralisé permet de représenter graphiquement l'effet de chaque variable d'entrée sur la variable de sortie. D'autre part, les paramètres de ce modèle sont estimés par vraisemblance pénalisée, où le terme de régularisation généralise la pénalisation l1 aux fonctions splines. Cette pénalisation favorise les solutions parcimonieuses sélectionnant une partie de l'ensemble des variables d'entrée, tout en permettant une modélisation flexible de la dépendance sur les variables sélectionnées. Nous étudions l'adaptation de différents critères de sélection analytiques à ces modèles, et nous les évaluons sur deux jeux de données réelles.

International audience; The Cox proportional hazards model is the most popular model for the analysis of survival data. It allows estimating the relationship between covariates and a possibly censored failure time. The corresponding partial likelihood estimators are used for the estimation and prediction of relative risk of failure. However, if the explanatory variables are highly correlated or if the number of failures is not much greater than the number of covariates of interest, then partial likelihood estimators are unstable and have large variance. Penalization is extensively used to address these difficulties. It decreases the predictor variability to improve the accuracy of prediction. Ridge regression (l2-penalization) is one of the main penalization procedures. It has been generalized to the nonparametric setting to reduce the possibility of overfitting with high dimensional models. Thus, smoothing splines are used to estimate flexibly covariate effects in the additive Cox model. Tibshirani's lasso (l1-penalization) has also been applied to the Cox model, providing an alternative to quadratic penalization. An attractive feature of the l1-penalization is that it shrinks coefficients and sets some of them to zero, performing parameter estimation and variable selection simultaneously. We propose a new algorithm for variable selection and function estimation in the additive Cox model. The method is based on a generalization of the lasso to the nonparametric setting. Our proposal maximizes a penalized partial likelihood that includes a double penalty: on the l1-norm of linear components and on the (generalized) l1-norm of nonlinear components of spline coefficients. Because of their nature, these penalties shrink linear and nonlinear compounds, some of them reducing exactly to zero. Hence they give parsimonious models, select significant variables, and reveal nonlinearities in the effects of predictors. Our approach is compared to standard methods by simulations and an example. Different techniques to choose the penalty parameters are also tested.

Nous présentons une nouvelle méthode d'estimation fonctionnelle dans le cadre des modèles additifs généralisés (MAG). Les paramètres de ce modèle sont estimés par vraisemblance pénalisée, où le terme de régularisation généralise la pénalisation l_1 aux fonctions splines. Comme dans le cas linéaire, certains coefficients sont rétrécis, alors que les autres sont annulés exactement, aboutissant ainsi à des modèles parcimonieux, sélectionnant les variables jugées significatives. Les solutions sont calculées par une modification de l'algorithme classique, qui intègre l'optimisation du problème pénalisé. La mise en oeuvre de la méthode est illustrée par une application à la prédiction de la concentration plasmatique d'un type d'antirétroviraux chez des patients infectés par le VIH.

International audience; Statistical learning methods are currently considered with an increasing interest in the content-based image retrieval (CBIR) community. We compare in this article two leader techniques for classification tasks. The first method uses one-class and two-class SVM to discriminate data. The second approach is based on Gaussian Mixture to model classes. To deal with the specificity of the CBIR classifica- tion task, adaptations have been proposed. Experimental tests on a generalist database have been carried out. Ad- vantages and drawbacks are discussed for each method.

International audience; Predicting individual risk is needed to target preventive interventions toward people with the highest probability of benefit over a given time period. Any estimate of cardiovascular risk is currently based on the use of statistical models inferred from cohort data with methods such as logistic regression. Although attractively simple, the logistic model fails in some situations: 1) If the number of prognostic factors is large (with respect to the number of observations) or if they are highly correlated, then the variance of coefficient estimates may be high, leading to prediction inaccuracy. Subset selection is extensively used to address this difficulty. Another way to overcome these obstacles consists in imposing a penalty on large fluctuations of the estimated parameters. The lasso estimates a vector of linear regression coefficients by minimizing the residual sum of squares subject to a constraint on the l_{1}-norm of coefficient vector. An interesting feature of the l_1-norm constraint is that it shrinks some coefficients and sets others to exactly zero. On the other hand, the smooth form of the constraint leads to a less variable model than that provided by subset selection. 2) In real life, effects are generally not linear. When the study exposure is continuous, linear models may not accurately characterize the exposure-response curve. A generalization of the standard logistic model is the additive logistic model. The aim of this study is to model parsimoniously the relationship between a binary response and several continuous covariates in the case of possible nonlinearities in the effect of the covariates. We present a new method for variable selection and function estimation in non parametric additive logistic models fitted by cubic smoothing splines: penalized additive logistic regression. The method is based on a generalization of the lasso. Because of their nature, these constraints shrink linear and nonlinear coefficients, some of them going exactly to zero. Hence, they give parsimonious models, select significant variables, and reveal nonlinearities in the effects of predictors. Penalized additive logistic regression is applied to predict the risk of cardiovascular disease in a real database from the INDANA project (Individual Data Analysis of Antihypertensive Intervention Trials).

National audience; Nous présentons une nouvelle méthode d'estimation fonctionnelle dans le cadre des modèles additifs non paramétriques ajustés par des splines cubiques de lissage. Cette méthode généralise le "lasso" proposé par Tibshirani (1995) pour les modèles linéaires. Comme dans le cas linéaire, certains coefficients sont rétrécis, alors que les autres sont annulés exactement, aboutissant ainsi à des modèles parcimonieux, sélectionnant les variables jugées significatives. Les solutions sont calculées par un algorithme de point fixe, dans lequel une décomposition en valeurs singulières permet de réduire considérablement le nombre de calculs. Notre approche est validée dans une étude expérimentale comparant les performances du lasso à la sélection de variables pas à pas.

SVM et Mélanges de Gaussiennes pour la recherche d'images

International audience

International audience; In many discrimination problems a large amount of data is available but only a few of them are labeled. This provides a strong motivation to improve or develop methods for semi-supervised learning. In this paper, boosting is generalized to this task within the optimization framework of MarginBoost . We extend the margin definition to unlabeled data and develop the gradient descent algorithm that corresponds to the resulting margin cost function. This meta-learning scheme can be applied to any base classifier able to benefit from unlabeled data. We propose here to apply it to mixture models trained with an Expectation-Maximization algorithm. Promising results are presented on benchmarks with different rates of labeled data.