Jevreji su se u Sremsku Mitrovicu doseljavali tokom 19. veka i uglavnom su to bili trgovci.
Zbog ograničenja koje je prema njima nametao Beč, u naše krajeve nisu zalazili u većem broju sve do kraja 19. veka. Austrijske vlasti su se trudile da potpuno zabrane ili bar ograniče naseljavanje Jevreja u Vojnoj granici.
Pvi Jevrejin koji se doselio u Mitrovicu bio je David Levi, osamdesetih godina 18. veka.
Veći broj Jevreja naseliće se u Mitrovicu tek posle 1870. godine, po ukidanju Vojne granice. Oni će se doseljavati iz srednje i istočne Evrope, a njih najviše iz Mađarske, Poljske, Češke, Slavonije, Bačke ali i drugih mesta Srema.
Početkom 20. veka, u Sremskoj Mitrovici broj Jevreja dostigao je najveći broj, njih 296, po referatu Eduarda Flajšmana, jednog od potomaka čuvene porodice Flajšman koja je postradala u Drugom svetskom ratu. Taj broj će se vremenom smanjivati, a do 40-ih godina 20. veka, opašće do tek nešto iznad stotinak pripadnika ove zajednice u Mitrovici.
Ovoliko brojna zajednica imala je potebu za svojom bogomoljom. Ona će do izgradnje novog templa, kako su ga nazivali Mitrovčani biti smeštena u jednom objektu u ulici Svetog Save.
Novi objekat Sinagoge biće dovršen 25. oktobra 1904. godine, i to na inicijativu rabina vinkovačkog Salamona Neumanna, kao i zaslugom predstavnika jevrejske veroispovedne opštine iz Sremske Mitrovice, odnosno opštinskog odbora Josipa Flajšmana, Isidora Polaka, Hermana Pesinga, Jakoba Brauna, Eduarda Alta, Hermana Hirta, Salomona Hernfelda i Emanuela Hirta, skupljena su sredstva iz donacija za izgradnju nove bogomolje.
Sinagoga se nalazila prekoputa Mitrovačke gimnazije. Pored same gimnazije nalazila se i jevrejska osnovna škola „Palestina“ čije ime se i danas pominje a do nje stan za kantora.
Izvođač radova bio je Ivan Voler prema planu nama nepoznatog arhitekte iz Budimpešte.
Zgrada je bila jednospratna, imala je tri ulaza na prizemlje i dva ulaza na galerije.Zidovi sinagoge su bili bež boje, tavanica unutrašnjosti nebeskoplave sa zlatnim zvezdama.
Prvi rabin koji je delovao na teritoriji ove opštine bio je Jakob Mogan.
Početkom Drugog svetskog rata, objekat Sinagoge je zatvoren i već početkom avgusta 1941. godine, počela je pljačka i odnošenje svih dragocenosti iz Sinagoge. Skidan je crep i drvene grede.
Jevrejska zajednica je od novih vlasti NDH gotovo zbrisana, veliak većina jevrejskih porodica je sporvedena u logore.
Šestog avgusta 1942. godine, Sinagoga je minirana i potpuno uništena u snažnoj eksploziji.
Medijski sadržaji realizovani su u okviru projekta “Prozor u kulturni život nacionalnih manjina u gradu” koji sufinansira Grad Sremska Mitrovica. Stavovi izneti u podržanom medijskom projektu nužno ne izražavaju stavove organa koji je dodelio sredstva.