Paleontologická sbírka Moravského zemského muzea obsahuje více než 250 000 zkamenělin z více než 1000 českých a moravských lokalit a z více než 850 zahraničních lokalit. Obsahuje fosilie z dnes již zaniklých lokalit, které jsou tedy jediným hmotným dokladem jejich existence. Významnou  a hodnotnou částí sbírky je typový a figurovaný materiál (holotypy). Kromě paleontologického a geologického materiálu oddělení spravuje významný fotoarchív, mapový archív a především vzácnou kolekci paleontologických rekonstrukcí akademického malíře Z. Buriana zakoupenou v roce 1975, jedinečný je také soubor historických litografických výukových tabulí německého profesora Carla Alfreda von Zittela z roku 1879.


Z historického hlediska se paleontologická sbírka ještě v době působení kustoda Albina Heinricha skládala jen z ojedinělých zkamenělin. Starší jsou pouze dva vzorky ze sbírek starohraběte Františka Huga Salma a Karla Liechtensteina. Albin Heinrich ve svém prvním průvodci z roku 1853 popisuje z  Brna a okolí kosti a zuby čtvrtohorních velkých savců - mamutů, jeskynních medvědů, nosorožců. Henrich také objevil během terénních výzkumů nejstarší holotyp, který geologicko-paleontologické oddělení spravuje. Je to exemplář velmi zvláštní ryby příbuzný dnešní klunatce. Rybka byla popsána a po Henrichovi pojmenována jako Amphisile heinrichi. Dnes tyto ryby žijí v Indickém oceánu a jejich zkameněliny jsou důkazem propojenosti třetihorního moře na Moravě s tímto světovým oceánem. Tento exemplář je tedy „zlatým vejcem“ sbírky, a to z hlediska historického i vědeckého.


První větší kolekce zkamenělin pochází z roku 1850 od lékaře Josefa Meliona, k nejpůsobivějším sbírkám patří otisky rostlin a měkkýšů z kulmských břidlic v okolí Bruntálu, kde dlouhou dobu působil i jako balneolog. Za základ paleontologické sbírky Františkova muzea však lze pokládat až rozsáhlou kolekci dalšího lékaře - Ferdinanda Katholitzkého, kterou muzeum koupilo v roce 1889. Katholitzkého sbírka byla v podstatě i základem první expozice. Díky této akvizici se do sbírek dostaly zkameněliny z oblasti Barrandienu a z významných evropských lokalit jako jsou Holzmaden, Gerolstein, Eifel, Monte Bolca, alpského triasu.


Další přírůstky úzce souvisely s geologickými a paleontologickými výzkumy konce 19. a počátku 20. století. V tomto období je Františkovo muzeum spojeno se jmény Jaroslav Jiljí Jahn, Anton Rzehak, Alexander Makowsky a Vladimír Procházka. V roce 1903 geolog Jaroslav Jiljí Jahn iniciuje založení Komise na přírodovědný výzkum Moravy a Slezska v Brně. Díky komisi se začaly systematicky dokumentovat jednotlivé lokality a byly získávány významné kolekce zkamenělin. V roce 1908 je novým kustodem přírodovědných sbírek jmenován Dr. Karel Absolon. Dalšími významnými osobnostmi v dějinách oddělení jsou Dr. Vladimír Procházka, který vytvořil rozsáhlou sbírku třetihorních zkamenělin z oblasti karpatské předhlubně, po první světové válce a vzniku Československé republiky to byl Dr. Zdeněk Jaroš, který se odborně zapsal jak v mineralogii tak i paleontologii. V roce 1937 oddělení získává darem rozsáhlou a cennou geologickou knihovnu montanisty Karla Augusta Redlicha obsahující významnou odbornou literaturu z celé bývalé monarchie. Významným spolupracovníkem se stal geolog Dr. Karel Zapletal, který odborně reinstaloval dosavadní expozici. Následující přednostové oddělení jsou Dr. František Zvejška, Dr. Miloslav Pokorný (1950) a Dr. Rudolf Musil, který zasvětil svoje výzkumy pleistocenním obratlovcům v oblasti Moravského krasu nebo Stránské skále. V roce 1976 se vedoucí oddělení stává Dr. Jiřina Uhrová, která se věnovala studiu karbonských sedimentů rosicko-oslavanské pánve, od roku 1990 pak Dr. Jaroslav Říha, jenž se specializoval především na studium ostrakodů. Od roku 1997 oddělení vede RNDr. Růžena Gregorová PhD.