Julianna Margulies föddes den 8 juni 1966 i Spring Valley (nära New York) som yngsta av tre döttrar till Francesca (Goldberg), lärare och dansare i American Ballet, och Paul Margulies, reklamskribent och filosof. Hon är av ashkenaziskt judiskt ursprung (från Rumänien, Österrike, Ungern och Ryssland). Innan hon började gymnasiet i New Hampshire vid 14 års ålder bodde hon flera år med sin familj i Paris och England. Hon fick en B.A.-examen i liberal arts från Sarah Lawrence College, där hon medverkade i flera pjäser på campus. Hon jobbade som servitris tills hon fick sin första roll som prostituerad som ville bli hederlig i Out for Justice (1991). Det tog mer än ett år att hitta en ny roll; under den tiden lyckades hon försörja sig genom flera regionala teaterproduktioner och nationella tv-reklamfilmer. Fram till dess att hon blev ordinarie i ER (1994) gästspelade hon i flera tv-serier och en pilotfilm. Sedan dess har hon medverkat i flera filmer, bland annat Ghost Ship (2002), Evelyn (2002) och Snakes on a Plane (2006), och är huvudrollsinnehavare i CBS-dramat The Good Wife (2009), för vilket hon har vunnit både en Emmy och en Golden Globe.