ABBRIVIATIONS 1 ZUSAMMENFASSUNG 3 SUMMARY 7 GENERAL INTRODUCTION 9 AIM OF THE STUDY 21 CHAPTER 1 Two species of Southeast Asian cats in the genus Catopuma with diverging histories: an island endemic forest specialist and a wide- spread habitat generalist 23 CHAPTER 2 Genetic structure and phylogeography of the Leopard cat (Prionailurus bengalensis) inferred from mitochondrial genomes 47 CHAPTER 3 Threatened but understudied – supporting conservation by understanding the genetic structure of the flat-headed cat 75 GENERAL DISCUSSION 99 REFERENCES 111 ACKNOWLEDGEMENTS 121 APPENDIX 123 CURRICULUM VITAE 131 PUBLICATIONS 133, Studies identifying drivers and barriers of speciation and species distribution patterns are a priority subject for evolutionary biology. Understanding of ecological, behavioural and/or physical barriers that reduce gene flow and drive speciation is essential to infer the evolutionary history of species. Along with extrinsic factors, such as geo-climatic events, intrinsic factors such as species adaptability also play an important role in the distribution of species and thereby shape local biodiversity. The aim of this study was to identify speciation mechanism(s) of closely related species that diverged from a common ancestor but responded differently to past environmental changes. This was achieved by inferring the phylogeography and evolutionary history of closely related species of small cats in the subfamily Felinae distributed in southeast Asia from their mitogenomes. Chapter 1 deals with the phylogeography of the two species of the genus Catopuma, one being a habitat generalist – the Asian golden cat (Catopuma temminckii), and the other one being a habitat specialist – the bay cat (Catopuma badia). Analysis of their mitogenomes revealed a deep split between the mitochondrial lineages of both species. Our species distribution modelling data for the Late Pleistocene (~120 Kya), the Last Glacial Maximum (~22 Kya) and the Holocene (~6 Kya) suggests that both species have had diverse evolutionary histories, most likely because of their distinct habitat preferences. Our molecular data for the Asian golden cat further differentiates a mainland from a Sundaic population. Combining molecular data and pelage data explained the recent expansion and colonization of Sumatra by the Asian golden cat from mainland through Peninsular Malaysia. Chapters 2 and 3 are closely linked as they both deal with members of the genus Prionailurus. Chapter 2, describes the in-depth genetic structure of two mitochondrial lineages of the leopard cat (Prionailurus bengalensis) – a mainland and a Sundaic lineage. Based on mitogenome phylogeny we differentiated the mainland lineage into three sub- lineages (South India /Indochina, North India/Indochina and Far East) and the Sunda lineage into the sub-lineages Sumatra, Borneo and Philippines Islands and Java/Bali. Interestingly, samples from Peninsular Malaysia are present in both lineages. The chapter discusses probable barriers to gene flow which could separate populations of a habitat generalist into sub-lineages. The findings suggest a revision of the current taxonomy of leopard cat sub-species since their status is not unambgiously reflected in their mitogenome. Chapter 3 focusses on the matrilineal population structure of the flat-headed cat (Prionailurus planiceps), a closely related species of the leopard cat and a wetlands habitat specialist. Results from mitogenome phylogeography revealed the presence of two clearly distinct lineages already in Sundaland. The split, which is ~0.575 million years old, separates genetically distinct populations in Borneo from populations in Sumatra and Peninsular Malaysia/Thailand. The results also revealed the presense of sub-lineages within the main lineages, indicating reduced or interrupted gene flow even among populations. In the general discussion, I summarize the results of the single chapters for habitat generalists (Asian golden cat, leopard cat) and for habitat specialist (bay cat, flat-headed cat). In particular, I discuss how generalist and specialist species differ in their responses to Pleistocene gradual environmental changes and vicariance events and thus in their dispersal and distribution patterns., Einese der Hauptziele der Evolutionsbiologie ist die Identifizierung von Faktoren, die die Evolution von Arten und ihre Verteilung beeinflussen. Das Verständnis darüber, wie ökologische, verhaltensbedingte oder physische Barrieren den Genfluss zwischen Populationen verringern oder gar unterbrechen, ist eine notwendige Voraussetzung, um die evolutionäre Geschichte von Arten aufklären zu können. Neben äußeren Faktoren, wie geologischen und klimatischen Ereignissen, spielen auch andere Faktoren, wie die Anpassungsfähigkeit von Arten, eine wichtige Rolle für die Verbreitung der Arten und somit die Verteilung der Artenvielfalt. Ziel der vorliegenden Arbeit war es daher, die Artbildung in engverwandten Schwesterarten (oder Linien) mit überlappenden oder geographisch eng beieinanderliegenden Ausbreitungsgebieten zu untersuchen, da diese zwar von einem gemeinsamen Vorfahren abstammen, aber unterschiedlich auf Ereignisse der Vergangenheit wie klimatische Veränderungen oder Änderungen im Lebensraum reagiert haben könnten. Zu diesem Zweck wurde die evolutionäre Vergangenheit und phylogeographische Verteilung mehrerer südostasiatischer Schwesternartpaare von Kleinkatzen in der Unterfamilie Felinae mithilfe der Untersuchung vollständiger Mitogenome untersucht. Kapitel 1 beschäftigt sich mit der Phylogeographie der beiden im Genus Catopuma zusam¬mengefassten Schwesterarten: die Asiatische Goldkatze (Catopuma temminckii), ein Habitatgeneralist, und die Borneo-Katze (Catopuma badia), ein Habitatspezialist. Die Analyse der Daten ergab eine weit zurückliegende Aufspaltung der mitochondrialen Linien beider Arten. Mithilfe von Artverbreitungsmodellen für die drei Zeiträume Spätpleistozän (~120 Kya), letztes Eiszeitmaximum (~22 Kya) und Holozän (~6 Kya) konnte gezeigt werden, dass sich die unterschiedlichen evolutionären Entwicklungswege beider Arten sehr gut mit der Lebensraumverteilung und der Herausbildung entsprechender Präferenzen in beiden Katzenarten erklären lassen. Mittels molekularer Daten konnte außerdem gezeigt werden, dass sich die Goldkatze bereits in eine Kontinental- und eine Sunda-Population differenziert hat. Durch die Kombination der Ergebnisse der Mitogenomuntersuchungen mit denen der Felluntersuchungen gelang es, den Ausbreitungsweg der Asiatischen Goldkatze vom kontinentalen Festland über die Malaysische Halbinsel bis nach Sumatra zu belegen. Kapitel 2 und 3 stehen in engem inhaltlichen Zusammenhang, da sich beide mit Vertretern der Gattung Prionailurus befassen. Kapitel 2 beschäftigt sich mit der genetischen Struktur zweier mitochondrialer Linien der Bengalkatze (Prionailurus bengalensis), einem Habitatgeneralisten. Auf der Ebene mitochondrialer DNA kann die Bengalkatze klar in eine Kontinental- und eine Sunda-Linie unterschieden werden. Die Kontinental-Linie setzt sich aus drei Unterlinien zusammen (eine südindisch-indochinesische, eine nordindisch- indochinesische, sowie eine fernöstliche), während die Sunda-Linie aus zwei Unterlinien besteht, von denen eine auf Sumatra, Borneo und den Philippinen und die andere auf Java und Bali vorkommt. Überraschenderweise gehören Bengalkatzen auf der Malaysischen Halbinsel zu beiden Hauptlinien (Kontinental- und Sunda-Linie). Für einen Habitatgeneralist, für den es auf der Malaysischen Halbinsel keine Barrieren geben sollte, ist dieses Ergebnis insofern überraschend, da eine solche Linien-Aufspaltung kennzeichnend für beginnende Artbildungsprozesse ist. Daher werden in diesem Kapitel auch mögliche Barrieren für den Genfluss diskutiert, deren Gegenwart die Aufspaltung eines Habitatgeneralisten in Unterlinien begünstigt haben könnte. Die Ergebnisse sind von taxonomischer Relevanz, da viele der bisher beschriebenen Unterarten im mitochondrialen Erbgut nicht eindeutig abgebildet sind. Eine Revision und zahlenmäßige Reduktion der bestehenden Unterarten wird daher empfohlen. Kapitel 3 befasst sich mit der Flachkopfkatze (Prionailurus planiceps), einer Schwesterart der Bengalkatze und ein Habitatspezialist für Feuchtlandschaften. Die auf den Mitogenomen basierende phylogeographische Analyse zeigt klar, daß es bereits innerhalb Sundalands eine Aufspaltung in zwei abgegrenzte mitochondriale Linen gibt, deren Alter auf ~0,575 Millionen Jahre datiert werden konnte. Die eine Linie umfasst Individuen der Malaysischen Halbinsel und Sumatras, während die andere ausschließlich Individuen Borneos umfasst. Interessanterweise erbrachte die Mitogenomanalyse auch den Nachweis der Existenz von Unterlinien in beiden Hauptlinien, die auf eine Unterbrechung des Genflusses innerhalb der Hauptlinien hinweisen. In der sich anschließenden allgemeinen Diskussion fasse ich die Ergebnisse der einzelnen Kapitel für die Habitatgeneralisten (Asiatische Goldkatze, Bengalkatze) und die Habitatspezialisten (Borneo-Katze, Flachkopfkatze) hinsichtlich deren genetischer Diversität und Differenzierung zusammen. Ich gehe außerdem darauf ein, wie sich Generalisten und Spezialisten in ihren Reaktionen auf die pleistozänen Klimaveränderungen und/oder Vikarianz- Ereignisse und somit in ihren Ausbreitungsmöglichkeiten unterscheiden, was zu ihren heutigen Verbreitungsgebieten führte.