De Joodse Begraafplaats werd halverwege de 19e eeuw in gebruik genomen door de Joodse gemeenschap in het dorp. In die tijd woonden er ca. 30 Joden in Ruinen. In 1934 was Mietje Cohen de laatste die hier haar laatste rustplaats vond. Na de Tweede Wereldoorlog keerde niemand van de vijf Joodse families die in Ruinen hadden gewoond terug. Waarschijnlijk mede doordat de grafzerken in het verleden vaak van hout gemaakt werden is er vandaag de dag nog maar één grafzerk over. Deze behoort aan Esther Conen, overleden in 1895. Meer informatie over deze grafzerk en de tekst die erop staat vindt u hier.De achternaam Conen is vermoedelijk een aanpassing van de oorspronkelijke naam Cohen. In die familie komen beide variaties voor.

De eerste Joodse inwoners van Ruinen die we terugvinden in de geschiedschrijving zijn Levie Simons en zijn gezin, die al in 1764 in het dorp woonden. Na zijn dood nam ene Meijer de Jode in 1785 waarschijnlijk zijn handel over. Andere namen die we in die tijd terugvinden zijn Salomon Mozes en Koessel de Jode. Het waren allemaal arme gezinnen die voor hun religieuze plichten naar Dwingeloo afreisden.

Hoewel het hen niet voor de wind ging groeide de gemeenschap toch, en halverwege de 19e eeuw kwam de Joodse gemeenschap samen in een huissynagoge in Ruinen zelf. In deze tijd ontstond ook de Joodse Begraafplaats, op een stuk grond in het gebied Engeland dat door de weduwe Hendrik Koerts Bruins (of door haar erfgenamen) na 1841 werd overgedaan aan de Joodse gemeenschap. Jacob Rozendaal, overleden in 1850, zou de eerste zijn geweest die er werd begraven.
In 1864 vatte men het plan op om in Ruinen een synagoge te stichten. Er woonden toen een kleine 30 Israëlieten in het dorp. Opperrabbijn Hillesum echter vond het aantal Israëlieten in Ruinen te klein om een synagoge te laten neerzetten. De kans was immers groot dat zo’n kleine groep armlastige bewoners het onderhoud van een synagoge niet zou kunnen bekostigen. Vermoedelijk ging de bouw van een synagoge mede vanuit die overweging niet door. De Joodse gemeenschap in Ruinen werd hierna nog kleiner. Bij het uitbreken van de Tweede Wereldoorlog woonden er vijf Joodse families in Ruinen. Geen van hen is na de oorlog teruggekeerd, omdat ze om hun Joods zijn vermoord zijn.

Over de Joodse begraafplaats gaat ook een verhaal de ronde. Aan het einde van de 19e eeuw zou er in Ruinen een roofmoord hebben plaatsgevonden op een rijke koopman. De dader werd gegrepen en overleed uiteindelijk in de gevangenis van Leeuwarden. Voor zijn dood had hij zich echter laten ontvallen dat hij de buit, bestaande uit 30.000 gulden en een gouden oorijzer, had verstopt op de Joodse Begraafplaats in Ruinen. De medegevangene aan wie hij dit verteld had reisde na zijn vrijlating af naar het dorp waar hij het geld hoopte te vinden. Bij aankomst werd hij verjaagd door de lokale bevolking die deze vreemdeling niet vertrouwde. Omdat het gerucht inmiddels breder verspreid was kwam de zaak terecht bij de Officier van Justitie en werd er in 1925 een onderzoek gestart, dat echter niets opleverde. Kort daarna hebben vandalen, waarschijnlijk op zoek naar de vermeende schat, het enige overgebleven graf geschonden: daarbij is de zerk verplaatst en gebroken.