Julianna Margulies urodziła się 8 czerwca 1965 roku w Spring Valley, niedaleko Nowego Jorku. W swojej rodzinie jest najmłodszą z trzech córek. Jej matka pracowała jako tancerka w Amerykańkim Teatrze Baletowym (American Ballet Theatre). Krótko po jej urodzeniu, cała rodzina przeniosła się do Paryża, gdzie przebywali przez dwa lata, aby następnie przenieść się do Anglii. Kiedy Julianna miała 5 lat, jej rodzina powróciła do Spring Valley, by po 5 latach ponownie przenieść się do Anglii. W wieku 14 lat Julianna rozpoczęła naukę w szkole średniej w New Hampshire, którą zakończyła z tytułem licencjata nauk liberalnych uczelni Shrah Laurence College, gdzie występowała w kilku różych sztukach.
Znalezienie pracy na scenie w Nowym Jorku nie był łtwym zadaniem. Julianna pracował przez rok jako kelnerka, zanim otrzymał rolęprostytutki w filmie "Poza prawem" ("Out of Justice"), ze Stevenem Seagalem w roli głwnej. Utrzymywał sięz wystęów w teatrach Yale Repertory Theatre i Asolo Theathre (na Florydzie). Wystąiłarównież kilku reklamówkach ogólnokrajowych. Pojawiła się gościnnie w odcinku serialu "Prawo i porządek" ("Law & Order"), a także w pilocie "Philly Heat". Później napisano dla niej kilka epizodów w serialu "Homicide: Life On the Street", gdzie występowała jako kelnerka/skrzypaczka. Dotychczas największą popularność zdobyła grając w erialu "Ostrym dyżurze" [1994-2000], za rolę w którym otrzymała nominacje do nagród Emmy i "Złtych Globów".