Den nye synagogen, eller Neue Synagoge, ble designet av arkitekten Eduard Knoblauch på midten av det nittende århundre. Det er et fremtredende symbol ikke bare i det jødiske samfunnet, men i Berlins kulturelt betydningsfulle og historisk dyptgående stoff som utgjør byens metaforiske arkitektur.
Etter at den originale arkitekten Knoblauch gikk bort, overtok hans arkitektoniske samtid, Friedrich August Stüler. Selv om Knoblauch får mye kreditt, er det Stüler som virkelig er ansvarlig for de fleste interiør- og utvendige konstruksjoner. Den ble innviet i 1866. På det tidspunktet den ble bygd, var den den største i sitt slag i Tyskland.
Synagogen er hyllet for ikke bare sin skjønnhet og størrelse, men for å være en av de eneste synagogene som overlevde Kristallnacht, en forferdelig natt der nazister brente mange av det jødiske samfunnet holdt kjært for å sende en melding og for å ødelegge de siste par søyler av håp. Selv om interiøret ble søppel og mye skade ble gjort, forble det stort sett intakt. Dette skyldes hovedsakelig en modig løytnant ved navn Otto Bellgardt, som tegnet pistolen sin for å beskytte det historiske landemerket. Da andre områder ble stengt for det jødiske samfunnet, forble New Synagogue åpent en stund som et sted for foredrag, møter, konserter, etc., men bruken ble redusert til hovedsalen. Etter hvert ble dette også tatt bort.
I 1942, under de beryktede allierte bombeangrepene, ble mye av den nye synagogen ødelagt. Bygningen ble stort sett lagt igjen i ruiner. Etter krigen tok det tid før ting tok form. Det jødiske samfunnet var delt inn i øst- og vest-sektorer i håp om å unngå forfølgelsen som fremdeles sildret etter krigen. Den nye synagogen falt under den østlige menighetens jurisdiksjon, og de ble til slutt tvunget til å rive den nye synagogen. Gjenoppbyggingen startet etter at muren mellom øst og vest falt, og det er dette som er ansvarlig for bygningen vi opplever i dag, spesielt jernkonstruksjonen.
