W 1792 ukończono tam budowę kościoła św. Karola Boromeusza, ufundowanego przez duchowieństwo warszawskie, a zaprojektowanego przez Dominika Merliniego. Jeszcze przed poświęceniem cmentarza wystawiono tam również tzw. katakumby.
Cmentarz był wielokrotnie powiększany i dziś zajmuje 43 ha (dla porównania Watykan – 44 ha).
W czasie II wojny światowej sama nekropolia nie ucierpiała zbytnio, ale pod koniec wojny spłonął kościół i zabudowania kancelarii (m.in. archiwum cmentarne). Jeszcze w czasie okupacji na terenie cmentarza działała Armia Krajowa – były tu składy broni, odbywały się wykłady wojskowe, tędy też szły transporty żywności do getta warszawskiego.
