Cmentarz żydowski w Częstochowie założony został po wyrażeniu zgody wydanej przez administrację Księstwa Warszawskiego w 1808 roku. Wcześniej mieszkańcy Częstochowy i okolic wyznania mojżeszowego byli chowani na cmentarzu w Janowie. Oddalenie cmentarza o około 27 km i konflikty z bractwem pogrzebowym z Janowa stwarzały duże niedogodności dla częstochowskich Żydów. Częstochowski cmentarz powstał na południowy wschód od miasta, w pobliżu wsi Kucelin, przy obecnej ulicy Złotej. Cmentarz oddalony o kilka kilometrów od centrum Częstochowy nie stanowił dobrej lokalizacji. Konieczne było używanie karawanu, a okazało się droga do Kucelina była w bardzo złym stanie. Pod koniec lat osiemdziesiątych XIX wieku podjęte zostały próby zamknięcia cmentarza i urządzenia nowego miejsca pochówku bliżej miasta, planów jednak ten nie udało się zrealizować.
Powierzchnia kirkutu została z czasem powiększona i w 1939 roku zajmował on łącznie 8,5 hektara. Nekropolia była obwałowana i ogrodzona, na jej skraju stał dom przedpogrzebowy. Od czasu utworzenia cmentarza pochowano na nim kilka tysięcy osób, w tym miejscowych rabinów i cadyków: Pinchasa Menachema Eliezera – zmarłego 20 listopada 1920 r. (cadyka z Pilicy i Częstochowy); Awigdora syna Szulima Szapiro – zmarłego w dn. 10 marca 1928 roku, według innych źródeł 20 lutego 1927 roku cadyka, potomka chasydów z Mogielnicy i Kozienic, działacza partii Agudas Izrael; Nachuma syna Dawida Hersza Asza – zmarłego w dn. 12 maja 1936 roku rabina Częstochowy.
Podczas drugiej wojny światowej na cmentarzu Niemcy dokonywali licznych egzekucji, w tym: w dniu 9 marca 1943 roku rozstrzelano 6 żydowskich partyzantów, 20 marca 1943 roku rozstrzelano 127 osób – przedstawicieli częstochowskiej inteligencji i członków ich rodzin, pod koniec czerwca 1943 roku na cmentarzu zgładzono nie mniej niż tysiąc osób (podczas likwidacji częstochowskiego getta), w lipcu 1943 r. rozstrzelano około pół tysiąca osób, w większości robotników z obozu pracy przymusowej „Hasag”.
Na cmentarzu dochodziło też do egzekucji Polaków pomagających Żydom. Ciała zamordowanych grzebano w miejscu kaźni. Lokalizacja wielu grobów ofiar Zagłady do dziś nie jest znana. W tym czasie cmentarz uległ poważnemu zniszczeniu. Na rozkaz władz okupacyjnych część pomników zrobionych z cenniejszych surowców wywieziono do Niemiec. Wiele macew wykorzystano do prac budowlanych.
Po zakończeniu działań wojennych członkowie częstochowskiej Kongregacji Wyznania Mojżeszowego w miarę swoich możliwości kadrowych i finansowych starali się dbać o nekropolię. Naprawiony został mur, rozebrano zrujnowany dom przedpogrzebowy, oznakowano też zidentyfikowane groby osób zamordowanych przez Niemców. Ocaleli z Holocaustu stawiali symboliczne mogiły zamordowanych członków swoich rodzin. Cmentarz w dalszym ciągu pełnił funkcje grzebalne. Między innymi w 1946 roku odbył się pogrzeb Szmula Rembaka i Dawida Gruszki, zabitych w dniu pogromu kieleckiego w pociągu relacji Kielce – Częstochowa. Na początku lat pięćdziesiątych poważnym zagrożeniem dla cmentarza stała się ekspansja Huty Częstochowa (wtedy im. Bieruta). Zabudowania zakładu stopniowo otoczyły cmentarz, a drogę do niego przecięła linia kolejowa. Pojawiły się żądania likwidacji cmentarza. Wówczas były plany przeznaczenia terenu cmentarza dla potrzeb rozbudowującej się huty, lecz udało się tego uniknąć dzięki Kongregacja Wyznania Mojżeszowego i Towarzystwo Społeczno-Kulturalne Żydów w Polsce.
W 1970 roku władze ponownie postanowiły przeprowadzić zlikwidować kirkut, wówczas to wszystkie groby miały zostać ekshumowane, a zwłoki i nagrobki przeniesione na cmentarz komunalny. Aby tego dokonać przystąpiono do prac dokumentacyjnych, tworząc szczegółowy plan nekropolii. Jednak z uwagi że w Częstochowie w dalszym ciągu nie było cmentarza komunalnego, zrezygnowano z realizacji tego. W tym samym roku odbyły się ostatnie pochówki Izabeli Ajzenberg, Dawida Alberta, Juliusza Ajzenberga. Sprawa zabezpieczenia i restauracji cmentarza była wielokrotnie podejmowana przez różne środowiska i organizacje żydowskie. W latach osiemdziesiątych XX wieku udało się przeprowadzić szereg prac, w części których partycypowała Huta. Odbudowana została brama oraz mur o długości około 300 m, usunięto część wiatrołomów i wykarczowano zarośla. Z inicjatywy potomków cadyka Justmana wzniesiono nowy ohel.
W 1986 roku na wniosek Fundacji Rodziny Nissenbaumów cmentarz wpisano do rejestru zabytków. W 1988 roku stworzony został zespół do spraw restauracji cmentarza, w skład którego weszli przedstawiciele dyrekcji Huty, Urzędu Miejskiego, Urzędu Konserwatorskiego i Związku Religijnego Wyznania Mojżeszowego. W 1989 roku Huta już oficjalnie zrezygnowała z zamiaru zabudowy cmentarza. Pomimo prowadzonych doraźnych prac porządkowych i restauracyjnych – m. in. w 2012 roku z inicjatywy władz miasta odnowiono bramę oraz pomnik ofiar Zagłady – stan kirkutu jest bardzo zły. Wiele pomników jest przewróconych i rozbitych. Problemem stała się bujna roślinność utrudniająca dostęp do znacznej części macew. Ustronne położenie cmentarza, niekompletne ogrodzenie i niezamykana brama sprzyjają dewastacji.
