Pierwsze wzmianki dotyczące obecności Żydów w Olkuszu są z 1317 roku. Jednak najstarsza informacja o cmentarzu żydowskim w Olkuszu pochodzi dopiero z 1584 roku. Cmentarz znajdował się na przedmieściu sławkowskim, czyli przy dzisiejszej ulicy Kolorowej. Podczas II wojny światowej cmentarz został zniszczony przez Niemców, którzy przez jego środek przekopali rów przeciwczołgowy, a większość zabytkowych nagrobków wywieziono. Przed kilkunastu laty, staraniem władz Olkusza, cmentarz został uporządkowany. Kilkadziesiąt zachowanych nagrobków zostało ustawionych w kilku rzędach. Ustawiono też tablicę informacyjną z historią nekropolii. Drugi cmentarz żydowski w Olkuszu znajduje się przy ulicy Jana Kantego. Powstał na początku XX wieku i uległ zniszczeniu podczas okupacji oraz w okresie powojennym. Obecnie na jego terenie znajduje się około dwustu zachowanych nagrobków i ich fragmentów. W ostatnich latach, staraniem władz Olkusza część z nich została odrestaurowana, a cmentarz został ogrodzony. Przed wejściem ustawiono tablicę informacyjną z historią oraz planem nekropolii, na którym oznaczono zachowane nagrobki.