Jest to jeden z największych cmentarzy żydowskich na świecie zajmujący powierzchnię 33,5ha, którego historyczną wartość stanowi około 200 tys. macew. Jedyna żydowska nekropolia w Warszawie funkcjonująca do dzisiaj.

Cmentarz powstał w 1806 roku na prośbę ówczesnego Zarządu Gminy Żydowskiej w Warszawie, który powołał w tym samym roku bractwo pogrzebowe Chewra Kadisza do administrowania nekropolii. Kilka lat później władze carskie powołały Administrację Pogrzebową, która całkowicie przejęła cmentarz w 1850 roku, pomimo licznych protestów członków Chewra Kadisza , którzy nie chcieli dopuścić do oddania funkcji administrowania cmentarza.

Teren cmentarza został podzielony na kwatery:
- ortodoksyjną (męską, kobiecą, do chowania ksiąg)
- postępową
- dziecięcą
- wojskową

Pierwszy dom przedpogrzebowy został wniesiony w 1828 roku, ale już po trzech latach został spalony przez wojska rosyjskie. W 1832 roku wybudowano nowy murowany dom przedpogrzebowy, rozbudowany w 1854 roku.

Cmentarz przy ul. Okopowej przez wiele lat był traktowany jako elitarna nekropolia dla bogatej społeczności żydowskiej. Z tego między innymi powodu w 1885 roku przeniesiono bezpłatne pogrzeby na cmentarz na Bródnie, oszczędzając tym samym nie tylko finanse, ale przede wszystkim powierzchnię kirkutu na Woli.

W 1877 roku z inicjatywy zamożnych członków Gminy Żydowskiej w Warszawie wybudowany został okazały, późnoklasycystyczny budynek, w którym znalazły się dwa domy przedpogrzebowe i synagoga.