Aggregation procedures: optimality and fast rates

In this thesis we deal with aggregationprocedures under the margin assumption. We prove that the marginassumption improves the rate of aggregation. Another contribution ofthis thesis is to show that some empirical risk minimizationprocedures are suboptimal when the loss function is convex, evenunder the margin assumption. Contrarily to some aggregationprocedures with exponential weights, these model selection methodscannot benefit from the large margin. Then, we apply aggregationmethods to construct adaptive estimators in several differentproblems. The final contribution of this thesis is to purpose a newapproach to the control of the bias term in classification byintroducing some spaces of sparse prediction rules. Minimax rates ofconvergence have been obtained for these classes of functions and,by using an aggregation method, we provide an adaptive version ofthese estimators.
Le principal travail decette thèse porte sur l'étude des méthodes d'agrégation sousl'hypothèse de marge. Nous avons mis en avant que l'hypothèse demarge améliore les vitesses d'agrégation. Un autre résultat decette thèse montre que certaines méthodes de minimisation du risqueempirique pénalisé sont sous-optimales quand le risque est convexe,même sous l'hypothèse de marge. Contrairement aux procéduresd'agrégation à poids exponentiels, ces méthodes n'arrivent pas àprofiter de la marge du modèle. Nous avons ensuite appliqué lesméthodes d'agrégation à la résolution de quelques problèmesd'adaptation. Une dernière contribution apportée dans cette thèse aété de proposer une approche du contrôle du biais en classificationpar l'introduction d'espaces de règles de prédiction parcimonieuses.Des vitesses minimax ont été obtenues pour ces modèles et uneméthode d'agrégation a donné une version adaptative de cesprocédures d'estimation.