Nach mittelalterlichen Verfolgungen und Pogromen in der Stadt bildete sich Mitte des 19. Jahrhunderts eine neue Gemeinde von etwa 80 jüdischen Einwanderern. Die Judenverfolgung in den 1930er Jahren führte zum Aussterben der jüdischen Gemeinde Heiligenstadts. Die jüdische Gemeinde richtete den Friedhof ein. Im Jahr 1884 zählte sie mehr als 100 Mitglieder.