In der Pogromnacht vom 9. zum 10. November 1938 wurde die Synagoge geplündert. Aber aus Furcht, ein Feuer könnte auf die umliegenden Häuser übergreifen, wurde sie nicht in Brand gesetzt. Vermutlich hat aber auch die verborgene Lage der Synagoge dazu beigetragen, daß sie nicht völlig zerstört wurde, wie die anderen Mainzer Synagogen. 1939 mußte die jüdische Gemeinde unter dem Zwang der damaligen Verhältnisse Grundstück und Synagoge zu einem vom Oberbürgermeister festgesetzten Preis von 350 Reichsmark verkaufen. Versteckt und vergessen überstand der Bau auch die Bomben des Krieges. Rumpelkammer, Hühnerstall, Lagerraum und Speicher waren dann die Stationen des Sakralbaus in den folgenden Jahren. Erst 1978 wurde sie wieder entdeckt - aber in welchem Zustand!