Na místě, kde se dnes nacházejí Olšanské hřbitovy, bylo již v roce 1680 zatímní pohřebiště těch, co zemřeli na mor. V jeho blízkosti tehdy býval tzv. Olšanský dvůr za Horskou branou, kde bývalo pražské popraviště. Novoměstská obec tam zakoupila od zemského prokurátora Štiky z Paseky velkou zahradu za 809 zlatých, která byla určena na další morový hřbitov, jenž se stále více rozrůstal. Když morová epidemie začala ustupovat, tak se novoměstská městská rada rozhodla založit hřbitovní kapli sv. Rosalie, Rocha a Šebestiána, patronů proti moru. To se psal 7. říjen 1681. Další rozšíření morových hřbitovů na Olšanech proběhlo v letech 1713-1715.
Nejvyšším rozhodnutím z 23. srpna 1784 bylo nařízeno, aby byly všechny hřbitovy ve městech zrušeny a přemístěny dál od obydlených míst. Pražský magistrát následně rozhodl, že Malá Strana a Hradčany budou mít pohřebiště na tzv. lazaretských pozemcích v Košířích, jež náležely stavovskému výboru, naopak pro Staré a Nové město Pražské byl ustanoven bývalý hřbitov v Olšanech. Staroměstská obec zakoupila k tomuto účelu štěpnici a pražský magistrát pole za kostelem o výměře 4 900 čtverečných sáhů. Právě tak vznikl v roce 1785 první olšanský hřbitov. Vzhledem k výše jmenované ploše přestal zachvíli kapacitně i hygienicky stačit, takže pražský magistrát zakoupil roku 1795 sousední pole o výměře 4 650 čtverečných sáhů, aby byl předchozí hřbitov rozšířen, čímž vznikl druhý olšanský hřbitov. Netrvalo však dlouho a situace se opakovala, když zádušní úřad poukázal v roce 1814 na nedostatečnost olšanských pohřebišť, ale jednání o jejich rozšíření bylo zahájeno až roku 1831. O 3 roky později bylo k tomuto účelu věnováno třetí pole o výměře 8 537 čtverečných sáhů, které předtím náleželo ke kostelu sv. Štěpána. Do budoucna se počítalo, že další rozšíření proběhne o tzv. černokosteleckou silnici a její okolí, ale když bylo dojednáno, že se z ní stane příjezdová cesta na nový hřbitov, tak bylo postoupeno pro čtvrtý olšanský hřbitov tzv. lacronské pole, nacházející se mezi hřbitovem a silnicí. Svému účelu bylo toto pohřebiště odevzdáno v roce 1839. Pátý olšanský hřbitov vznikl poté, co roku 1861 zakoupila pražská městská obec pole pod čp. 267-268 o výměře 6 jiter a 699 čtverečných sázích. Uplynulo pár let a vše bylo při starém, takže v roce 1885 byl zřízen, 28. února 1886 vysvěcen a 1. března 1886 otevřen nový, šestý a sedmý hřbitov o výměře 8 jiter a 817 čtverečných sáhů. Osmý a devátý hřbitov o výměře 6 jiter a 1 506 čtverečných sáhů byly vysvěceny 27. ledna 1889 a otevřeny o den později. Roku 1896 došlo k rozšíření obou na východní stranu, kde byl zakoupen pozemek o výměře 7 jiter a 852 čtverečných sáhů. Tomuto pohřebišti se však nezačalo říkat desátý hřbitov, ale byl překřtěn na první obecní a v letech 1900-1906 sem byly přeneseny ostatky a náhrobky z rušeného karlínského evangelického pohřebiště. Koncem roku 1893 měly všechny olšanské hřbitovy 38 835 hrobů a 1 894 hrobek. Jejich plocha činila 23 557 ha a po rozšíření v roce 1896 byla již 27 892 ha, což si vyžádalo v letech 1900-1904 zavedení vodovodu. Desátý hřbitov byl otevřen roku 1910, ale již o rok později bylo podle statistických údajů konstatováno, že všechny olšanské hřbitovy vystačí k pohřbívání tak na období 2,5 roku, takže nusely být zahájeny přípravné práce ke zřízení nového hřbitova ve štěrboholském, strašnickém a malešickém katastru. K tomu došlo na pozemcích, které byly zakoupeny v roce 1917. Tak vznikl druhý obecní hřbitov a jím se již zastavil růst olšanských pohřebišť, neboť již nebylo kam je rozšířit, i když sama situace s pohřbíváním se stala přímo kritickou, protože roku 1912 zde bylo pohřbeno 6 017 osob, v roce 1913 5 485 osob, roku 1914 5 898 osob, v roce 1915 6 305 osob, roku 1916 6 466 osob, v roce 1917 7 377 osob, roku 1918 8 433 osob, v roce 1919 6 025 osob, roku 1920 5 615 osob a v roce 1927 4 136 osob. Tehdy bylo na Olšanech 4 642 hrobek, 45 698 velkých a 9 270 malých hrobů, přičemž oba obecní hřbitovy byly určeny pro nekatolíky.
Nedošlo tak k plánům, aby byla tato pohřebiště zrušena, o čemž se hovořilo již před rokem 1870, neboť podle tehdejších lékařů otravovala vodu v okolí a způsobovala tak řadu epidemií, a to zejména na Žižkově, kde pomalu 10 let decimovaly neštovice místní děti. Žižkovské obecní zastupitelstvo řadu let žádalo o jejich přeložení, ale na to nebylo reagováno, ať již ze strany pražského magistrátu, nebo ze strany karlínského okresního hejtmanství a c. k. místodržitelství. Naopak 15. dubna 1878 zahájila svoji činnost správa katolických hřbitovů pražských v Olšanech jako nový úřad pražské obce, resp. pražského záduší. Předtím je totiž nikdo jako celek nespravoval. Každý hrobník fungoval totiž na vlastní vrub a hřbitovní zápisy byly vedeny velmi nedokonale, pokud vůbec. Vedle toho bychom tehdy našli na prvním hřbitově u hřbitovní kaple prkenné toalety, kupy hnoje a odpadků a po pohřebištích se potulovala domácí drůbež a řada žebráků. Prvním hospodářským dozorcem se stal městský rada František Hubáček a technický dozor měl na starosti městský rada a stavitel Antonín Kubr. Hřbitovní úřad řídil správce Antonín Peřina, jemuž pomáhal účetní oficiál Jan Vondráček a zahradník Ludvík Vandas. Tito jmenovaní byli tedy těmi nejvýraznějšími osobnostmi, které se zasloužili o dnešní podobu olšanských pohřebišť. K výše řečenému dodejme, že jediným místem, kde se přestalo pohřbívat, byl roku 1880 první hřbitov.
Nejvýraznějším objektem je na Olšanech Nová obřadní síň, která byla otevřena v roce 1971 v původní novorenesanční obecní kapli, postavené roku 1898 podle plánů Františka Velicha, jež po přestavbě sloužila v letech 1921-1932 jako první pražské krematorium. Lidské ostatky se zde přestaly spalovat z mnoha důvodů. Kritika směřovala i na to, že sám objekt byl poprvé a naposledy vymalován v roce 1899 a od té doby nic. Uveďme, že zde bylo celkem spáleno 19 962 lidských ostatků, aby bylo v dubnu 1932 nahrazeno novým strašnickým krematoriem. Není tedy divu, že tato místa byla od svého zřízení cílem procházek řady lidí, kteří obdivovali jak zdejší přírodu, tak umělecký sloh pomníků i ostatních staveb, z nichž můžeme zmínit zejména spisovatele Rudolfa Richarda Hofmeistera, který se o zdejších pohřebištích zmínil např. ve své knize "Cesta člověka. Paměti literáta". Podobně je tomu i dnes, roku 2006 byla dokonce zřízena naučná stezka Olšanské hřbitovy (viz
https://www.naucne-stezky.cz/naucna-stezka-olsanske-hrbitovy/), která seznamuje zájemce jak s historií pohřebišť, tak s osobnostmi zde pohřbenými.