This thesis deals with the application of molecular tools, combined with field data, in wildlife management, in conservation and in understanding species' biology and behavior. We used the brown bear (Ursus arctos) as a model species and the Scandinavian bear population as a case study. The first part of this thesis is a methodological part, in which we developed or reviewed technical aspects in molecular biology and parentage analysis; the second part is devoted to the application of molecular genetics to estimate population sizes and to understand mating systems. Noninvasive methods are gaining widespread use in genetic studies as they do not require the handling or disturbance of the study animal. However, DNA recovered from noninvasive samples, such as hairs or feces, is usually degraded and/or in small quantities, leading to genotyping errors and resulting in the identification of incorrect genotypes. This is a major concern, especially for small or endangered populations, as it can lead to biases in population size estimates. With the aim of increasing the quality and quantity of the desired DNA template, and to avoid the need for numerous replicates, we devised a two-step polymerase chain reaction (PCR) method. This “multiplex pre-amplification method” was tested on different species and compared with a conventional PCR approach. It significantly improved microsatellite amplification and decreased error rates for fecal DNA in limiting conditions. To more specifically amplify DNA from noninvasive samples of brown bears, we also redesigned microsatellite primers and one sex-specific primer and combined a semi-nested PCR with the multiplex pre-amplification method. These new approaches could be transposed to other species where conventional PCR methods experience low success due to limiting DNA concentration and/or quality.Genotyping errors remain a taboo subject in population genetics studies, in spite of their occurrence in most datasets and the negative consequences they may cause in the interpretation of the results. We considered four case studies representing a large variety of population genetics investigations, to track genotyping errors and identify their causes. In these datasets the estimated genotyping error rate ranged from 0.8% to 2.6%, depending on the study organism and the marker used. Main sources of errors were allelic dropouts for microsatellites and differences in peak intensities for AFLPs (Amplified Fragment Length Polymorphism), but in both cases, human factors were non-negligible error generators. We present suggestions to limit and quantify genotyping errors at each step of the genotyping process and recommend the systematic reporting of the error rate in population genetics studies.Parentage analyses using multilocus genotypes are widely used to assess reproductive success, mating patterns, kinship and fitness in natural populations. Several approaches, based on maximum likelihood estimations and /or Bayesian inference, have been recently developed, but they often remain theoretical and difficult for biologists to apply. However, there is a clear lack of parentage assignment softwares that are able to consider several generations of individuals and that allow the determination of both parents without any prior assumptions. We developed the software PARENTE to conduct parentage inference using molecular data from diploid codominant markers. Based on the principle of genetic compatibility, PARENTE looks for maternity, paternity or simultaneously for both potential parents, using multilocus genotypes and birth and death dates of individuals (if available). It also calculates the probability of successfully allocating an individual offspring to its parents.Estimates of population size and population density are essential for successful management and conservation of species. However, few attempts have been made to evaluate the accuracy of the estimates obtained. Using the protocols developed for amplifying fecal DNA, we first compared four census methods based on noninvasive genetic methods. Two methods used rarefaction indices and two were based on capture-mark-recapture (CMR) estimators. A total of 1904 fecal samples were collected over 2 consecutive years in a 49,000-km² study area in south-central Sweden. Population size estimates ranged from 378 to 572 bears in 2001 and 273 to 433 bears in 2002, depending on the method used. Based on a calculated minimum population size from radio-telemetry data, we concluded that the estimate from the best model in program MARK, a CMR estimator, was the most accurate. This model included heterogeneity and temporal variation in detection probabilities, which appeared to be present in our samples. Second, we evaluated the reliability of three traditional field methods in comparison with the best performing noninvasive genetic method in a smaller study area (7,328 km²). All three field methods tended to underestimate population size; the genetic method using the MARK estimator seemed to perform the best. We concluded that approximately 550 (482-648) bears were present in the 49,000-km² study area and 223 (188-282) bears were present in the 7,328-km² study area during 2001 and 2002. We suggest that the brown bear has reached a threshold density in the core area and currently expands on the edge of this area. A cost/benefit analysis showed that the noninvasive genetic method was less expensive than the most reliable field method and it is preferable from an ethical point of view. In conclusion, we recommend the use of noninvasive genetic methods, using the MARK estimator, to estimate population size over large areas. We also point out the importance of an adequate and well-distributed sampling effort and advise calibration with independent estimates in case of biased sampling, if possible. Future studies should aim at collecting 2.5 to 3 times the number of fecal samples as the “assumed” number of animals. These studies also confirmed that the present management of the Scandinavian bears has been successful and that this population is in a good conservation status. The knowledge of mating systems is important for understanding the evolution of sexual selection. We studied two major aspects of the brown bear mating system, namely the mating strategies employed by both sexes in relation to sexually selected infanticide (SSI) and female mate selection. Infanticide, the killing of dependent young, can be considered as sexually selected and adaptive for males, if the following three requirements are fulfilled: i) infanticide shortens the time to the mother's next estrus, ii) the perpetrator is not the father of the killed infants, and iii) perpetrators sire the female's next litter. However, this is not of benefit for females and they may have evolved counterstrategies in order to defend their infants against infanticidal males. We documented eight cases of infanticide in the field. From genetic samples collected at the sites and from observations, we verified that all requirements for SSI were fulfilled, suggesting that SSI may be an adaptive male mating strategy in this nonsocial carnivore. Contrary to social species, where mostly immigrant males kill young, mainly resident adult males were infanticidal in Scandinavian brown bears. This implies that they are able to differentiate their own progeny from unrelated cubs, perhaps by recognizing the females they mated with. Moreover, we genetically documented a minimum of 14.5% multiple paternities (28% for litters with 3 young or more). Female promiscuity to confuse paternity may therefore be an adaptive counterstrategy to avoid SSI. Further, we assessed on which criteria female brown bears chose their reproductive partner(s). We hypothesized that females may be faced with a dilemma: either select a high quality partner based on morphological or genetic criteria, as suggested by theories of mate choice, or rather mate with future potentially infanticidal males, i.e. the geographically closest males. We tested whether different male traits influenced paternity determination and found that females significantly selected the geographically closest males, but also the more heterozygous, largest and oldest males. We suggest that female brown bears might mate with the closest males as a counter-strategy to infanticide and exercise a post-copulatory cryptic choice, based on morphological traits such as body size or dominance, reflecting male genetic quality., Cette thèse traite de l'application de l'outil moléculaire pour la gestion, la conservation et la compréhension de la biologie et du comportement des espèces animales. Nous avons étudié l'ours brun (Ursus arctos) en tant qu'espèce modèle et la population d'ours bruns de Scandinavie en tant que cas d'étude. La première partie de cette thèse est une partie méthodologique, dans laquelle nous avons développé des aspects techniques en biologie moléculaire et en analyse de parenté. La seconde partie concerne l'application de ces outils moléculaires pour estimer les tailles de population et comprendre les systèmes d'appariement. Les méthodes non invasives sont de plus en plus utilisées en génétique des populations car elles ne nécessitent pas la manipulation ni le dérangement de l'animal étudié et sont particulièrement recommendabls pour l'étude des populations en danger d'extinction. Cependant, l'ADN extrait de ce type d'échantillons, tels que poils ou fèces, est en général dégradé et/ou en faible quantité, ce qui peut conduire à des erreurs de génotypage. Dans le but d'accroître la qualité et quantité de l'extrait d'ADN, nous avons mis au point une métode PCR (polymerase chain reaction) en deux étapes (“multiplex pre-amplification”). Cette méthode a été testée sur différentes espèces et, en comparaison avec une approche PCR conventionnelle, a permis d'améliorer l'amplification d'ADN et de diminuer le taux d'erreur. Pour amplifier plus spécifiquement l'ADN à partir d'échantillons non invasifs d'ours brun, nous avons également défini de nouvelles amorces microsatellites ainsi qu'un marqueur de sexe spécifique, et combiné une PCR en nid avec la méthode “multiplex pre-amplification”. Ces nouvelles approches peuvent être transposées à d'autres espèces pour lesquelles les méthodes conventionnelles ne sont pas appropriées à cause d'une faible quantité/qualité d'ADN. Les erreurs de génotypage sont un sujet « tabou » dans les études de génétique des populations, malgré leur incidence dans la plupart des jeux de données et le biais qu'elles peuvent causer dans l'interprétation des résultats. Nous avons considéré quatre cas d'étude représentant une large variété d'investigations en génétique des populations, pour détecter les erreurs de génotypage et identifier leurs causes. Dans ces jeux de données, le taux d'erreur estimé variait de 0.8% à 2.6% , selon l'organisme étudié et le marqueur utilisé. Les sources d'erreur principales étaient les pertes d'allèles pour les microsatellites et les différences d'intensité de pics pour les AFLP (Amplified Fragment Length Polymorphism), ainsi que des erreurs d'origine humaine dans les deux cas. Nous présentons des suggestions pour limiter et quantifier les erreurs de génotypage à chaque étape du processus et recommandons le report systématique du taux d'erreur dans les études de génétique des populations. Les analyses de parenté basées sur les génotypes multilocus sont largement utilisées pour estimer les succès reproducteurs, les appariements et la fitness dans les populations naturelles. Les approches proposées sont basées sur des estimations du maximum de vraisemblance ou des inférences Bayésiennes et restent en général assez théoriques et difficiles à appliquer pour les biologistes. Il existe un réel manque de logiciels capables de considérer plusieurs générations d'individus et permettant la détermination des deux parents sans hypothèse à priori. Le logiciel PARENTE, que nous avons développé, détermine les maternités, paternités ou les deux parents simultanément, basé sur la compatibilité des génotypes multilocus (marqueurs diploïdes codominants) et des dates de naissance et de mort des individus (si disponibles). Ce logiciel calcule également la probabilité de parenté à partir des fréquences alléliques, du taux d'échantillonnage de la population et du taux d'erreur de génotypage. Les estimations de taille de population sont essentielles pour la bonne gestion et conservation des espèces. Cependant, de manière générale, peu d'études évaluent la précision des estimations obtenues. Nous avons, dans un premier temps, comparé quatre estimateurs de taille de population, basés sur des méthodes génétiques non invasives. Deux méthodes utilisaient des indices de raréfaction et deux étaient basées sur des estimateurs de capture-marquage-recapture (CMR). Au total, 1904 fèces d'ours bruns ont été collectés sur deux années consécutives sur le terrain (49 000-km2 en Suède centrale). Les estimations variaient de 378 à 572 ours en 2001 et de 273 à 433 ours en 2002, selon l‘estimateur utilisé. La détermination d'une taille de population minimale obtenue à partir de données de radio-télémétrie nous a permis de conclure que l'estimation donnée par une des méthodes de CMR était la plus précise. Cet estimateur incluait une hétérogénéité et une variation temporelle dans les probabilités de détection, ce qui paraissait réaliste dans notre échantillonnage. Deuxièmement, nous avons évalué la fiabilité de trois méthodes de terrain traditionnelles en comparaison avec la méthode génétique la plus performante, dans une aire d'étude plus réduite (7 328-km2). Les trois méthodes de terrain tendaient à sous-estimer la taille de population ; la méthode génétique paraissait être la plus exacte. Nous avons conclu qu'environ 550 (482-648) ours étaient présents dans l'aire de 49 000-km2 et 223 (188-282) ours étaient présents dans l'aire de 7 328-km2. Nous suggérons que la population d'ours a atteint une densité de saturation dans l'aire centrale et disperse à présent sur les bords de cette aire centrale. Une analyse en termes de coûts/bénéfices a démontré que la méthode génétique était moins onéreuse que la méthode de terrain la plus fiable. De plus, elle est préférable d'un point de vue éthique. En conclusion, nous recommandons l'utilisation de méthodes génétiques basées sur un principe de CMR, pour estimer les tailles de population sur de larges aires. Nous insistons sur l'importance d'un effort d'échantillonnage adéquat et, en cas d'échantillonnage biaisé, nous conseillons le calibrage avec des estimations indépendantes, si possible. Nous recommandons La collecte d'un nombre d'échantillons supérieur de 2,5 à 3 fois le nombre « présumé » d'animaux. Ces études ont également confirmé que la gestion actuelle de la population d'ours a été bénéfique et que cette population est actuellement dans un bon statut de conservation.La connaissance des systèmes d'appariement est importante dans la compréhension de la sélection naturelle. Nous avons étudié deux aspects majeurs du système d'appariement de l'ours brun : les stratégies d'appariement employées par les deux sexes en relation avec l'infanticide sexuellement sélectionné (SSI) et la sélection du partenaire par la femelle. L'infanticide, le meurtre de jeunes non sevrés, peut être considéré comme sexuellement sélectionné si les trois conditions suivantes sont réunies : i) l'infanticide réduit le délai du prochain oestrus de la femelle ; ii) le mâle commettant l'infanticide n'est pas le père des jeunes tués ; iii) le mâle commettant l'infanticide produit la portée suivante de la femelle. Nous avons documenté huit cas d'infanticide sur le terrain. A partir d'observations et d'échantillons collectés sur sites, nous avons vérifié que les trois conditions pour le SSI étaient vérifiées. Cela suggère que le SSI pourrait être une stratégie adaptative pour le mâle chez ce carnivore non social. Contrairement aux espèces sociales où les mâles immigrants tuent les jeunes, la plupart des mâles commettant l'infanticide étaient résidents chez les ours scandinaves. Ceci implique qu'ils sont capables de différencier leurs propres jeunes des jeunes non apparentés, probablement en reconnaissant les femelles avec lesquelles ils se sont accouplés l'année précédente. De plus, nous avons démontré génétiquement un minimum de 14.5% de paternités multiples (28% pour les portées de 3 jeunes ou plus). La promiscuité des femelles, dans le but de confondre les paternités, pourrait donc être une contre-stratégie adaptative pour éviter le SSI. D'autre part, nous avons évalué sur quels critères les femelles ours bruns sélectionnaient leur partenaire reproductif. Nous avons émis l'hypothèse que les femelles pourraient faire face à un dilemme: soit choisir un partenaire de bonne qualité d'un point de vue phénotypique, comme suggéré par les théories de choix du partenaire, soit s'accoupler avec des mâles susceptibles de commettre l'infanticide l'année suivante, c'est à dire les plus proches géographiquement. Nous avons conclu que les femelles sélectionnaient significativement les mâles les plus proches mais aussi les plus hétérozygotes, les plus gros et les plus âgés. Nous suggérons que les femelles ours s'accouplent avec les mâles les plus proches comme contre-stratégie au SSI et exercent un choix post-copulatoire du partenaire reproducteur, basé sur des critères morphologiques tels qu'une large taille corporelle, ou sur des critères de statut de dominance, reflétant la qualité génétique du mâle.