Do czasów powstania tutejszego kirkutu społeczność starozakonna chowała swoich zmarłych na cmentarzu żydowskim w Wielowsi. Nekropolię w Pyskowicach założono 16 kwietnia 1830 r. Ostatni pochówek odbył się tutaj w 1920.
Na cmentarzu pochowani są przodkowie Edyty Stein - pradziadek i dziadek. Edyta Stein, przeszedłszy na katolicyzm i zostawszy karmelitanką bosą, poniosła śmierć w Oświęcimiu w 1942 roku, a przez Kościół uznana została za świętą.
Po dokonanej przez Niemców zagładzie tutejszych Żydów cmentarz niszczał, a w czasach powojennej biedy macewy i okazalsze nagrobki były rozkradane. W opracowaniach z lat 70-tych zwracano uwagę na znaczną dewastację nieogrodzonego wówczas obiektu. Do czasów obecnych na półhektarowym terenie zachowało się około 150 nagrobków. Najstarszy pochodzi z 1841 r. i posiada inskrypcje w językach hebrajskim i niemieckim. Obecnie kirkut jest ogrodzony. W 1988 r. przeprowadzono tu prace porządkowe, którymi kierował nauczyciel historii, Grzegorz Kamiński (a w kolejnych latach Błażej Kupski, również nauczyciel historii).
W tym czasie postawiono pomnik upamiętniający Żydów rozstrzelanych w Pyskowicach w czasie II wojny. Napis na pomniku głosi w języku polskim i niemieckim:
„Tutaj spoczywają przez hitlerowców pomordowani Żydzi”
Pyskowickim kirkutem opiekuje się Dariusz Walerjański, założyciel i przewodniczący Koła Towarzystwa Opieki nad Zabytkami w Zabrzu, znany badacz historii Żydów na Śląsku. Przed wejściem na cmentarz znajduje się dawny dom przedpogrzebowy, będący obiektem zabytkowym. W latach powojennych budynek wykorzystywany był jako zakład tapicerski. Obecnie stanowi własność skarbu państwa. Niestety, znajduje się w stanie bliskim ruiny. W ostatnich czasach zaniedbany był także sam kirkut.