Rond 1700 hebben zich de eerste Joden in Elburg gevestigd. Zij waren voornamelijk afkomstig uit Duitsland en Bohemen. In het midden van de achttiende eeuw was het beheer van de Bank van Lening in handen van een Joodse koopman, die tevens slager was. In 1813 woonden er in Elburg bijna twintig Joodse gezinnen. Een aanzienlijk deel van de gezinshoofden was werkzaam in de handel, maar hun economische positie was niet bijster goed. Aanvankelijk werden de godsdienstoefeningen gehouden in een woonhuis. Daar werd ook het Joodse onderwijs gegeven. Interne onenigheid leidde tot een splitsing in het begin van de negentiende eeuw. Na de hereniging van de gemeente kon er in 1855 een nieuwe synagoge gebouwd worden, die bereikbaar was via een poortje in de Jufferenstraat. De Joodse begraafplaats was gelegen op de Wandelingen, de huidige Oostwal. Hoewel de oudste grafzerk dateert uit 1768 hebben er vrijwel zeker ook vóór dat jaar begrafenissen plaatsgevonden. Naast een Joodse godsdienstschool was er een genootschap voor Torastudie en een vrouwengenootschap voor het onderhoud van het synagoge interieur. In het begin van de twintigste eeuw telde de Joodse gemeente van Elburg rond de honderd leden. Dit aantal nam sterk af door de beperkte economische mogelijkheden in de plaats. In 1938 woonden er nog enkele tientallen Joden en was het godsdienstige leven kwijnende.

Tijdens de bezetting is ongeveer de helft van de Joodse inwoners van Elburg gedeporteerd en in de kampen in Polen omgebracht. De overigen wisten onder te duiken. In 1947 werd de Joodse gemeente van Elburg officieel bij die van Apeldoorn gevoegd.

De synagoge bleef in de oorlog onbeschadigd en heeft daarna een culturele functie gehad. De Joodse begraafplaats op de Elburgerwallen wordt tegenwoordig door de plaatselijke autoriteiten onderhouden, in mei 1985 werd op de muur een gedenkplaat aangebracht ter nagedachtenis aan de omgebrachte Elburgse Joden. In 2002 werd de begraafplaats, die sinds 1990 op de monumentenlijst staat, door medewerkers van de Stichting Boete en Verzoening uit Lelystad en vrijwilligers uit Elburg opgeknapt.