Na mestu današnje zgrade gimnazije „Svetozar Marković“ 1895. godine bila je izgrađena parterna zgrada ženske građanske škole, za 250 učenica. Posle deset godina, 1905. godine, izvedeni su veliki radovi u kojima je nadograđen sprat i dodato je dvorišno krilo, a projekat novog dela zgrade je uradio poznati novosadski graditelj Bela Pekla. Škola je tada primala hiljadu učenica. Godine 1919. u ovu zgradu preseljena je Državna ženska gimnazija.

Zgrada gimnazije „Svetozar Marković“ ima veliki arhitektonsko - istorijski značaj. U stilu je zrelog istorizma, nešto prečišćenije dekorativne strukture. Ova zgrada pripada grupi objekata koji su važni i nezaobilazni za proučavanje istorije i kulture Novog Sada. U ovoj školi učile su brojne istaknute i poznate ličnosti, pored mnogih drugih, jedno vreme u njoj je učila i Mileva Marić Ajnštajn, velika srpska naučnica.
Zgrada je masivna, jednospratna, sa pravougaonom osnovom, a kasnije dodatim krilom na desnoj strani dvorišta, formirana je osnova na lakat. Glavna fasada je široka sa prozorima u pravilnom ritmu. Sprat je od prizemlja horizontalno odvojen istaknutim i profilisanim kordonskim vencem. Posebno je zanimljiva kapija na ulazu škole. Ona je pravilne polukružne konstrukcije. Oko otvora je bogato profilisan okvir, a nad njim je trougaoni fronton. Krila kapije su drvena sa dva polukružna zastakljena polja u središtu i nad njima polukružnim nadsvetlom (radijalno postavljene letvice).


Današnja gimnazija „Svetozar Marković“ osnovana je 1963. godine, a formirana je od učenika iz gimnazija „Moša Pijade“ i „Jovan Jovanović Zmaj“. Smeštena je 1970. godine na ovom mestu, u Njegoševoj ulici broj 22, ali već 1975. godine dolazi do ukidanja svih gimnazija. Tada počinje nastava po programu takozvanog „zajedničkog srednjeg vaspitanja i obrazovanja“ koje traje do 1983. godine, a do 1993. godine je u ovoj zgradi bila srednja škola pedagoške struke. Gimnazije su ponovo formirane 1990. godine, kada je ponovo osnovana i Gimnazija „Svetozar Marković“. Gimnazija „Svetozar Marković“ je gimnazija opšteg smera. Broji 1103 učenika koji su raspoređeni u 36 odeljenja. Nastava je dvojezična, u trideset dva odeljenja nastava je na srpskom jeziku, a u četiri (I1, II1, III1, IV1) nastava se odvija na mađarskom jeziku.