Julianna Margulies syntyi 8. kesäkuuta 1966 Spring Valleyssa (lähellä New Yorkia) nuorimpana Amerikan baletin opettajan ja tanssijan Francesca (Goldberg) ja mainoskirjailija ja filosofi Paul Marguliesin kolmesta tyttärestä. Hän on askenasijuutalaista syntyperää (Romaniasta, Itävallasta, Unkarista ja Venäjältä). Ennen kuin hän aloitti lukion New Hampshiressä 14-vuotiaana, hän asui useita vuosia perheensä kanssa Pariisissa ja Englannissa. Hän suoritti vapaiden taiteiden kandidaatin tutkinnon Sarah Lawrence Collegessa, jossa hän esiintyi useissa näytelmissä kampuksella. Hän teki töitä tarjoilijattarena, kunnes sai ensimmäisen roolinsa prostituoituna, joka etsii suoraa tietä elokuvassa Out for Justice (1991). Kesti yli vuoden löytää uusi rooli; sinä aikana hän onnistui elättämään itsensä useilla alueellisilla teatteriesityksillä ja kansallisilla tv-mainoksilla. Ennen kuin hänestä tuli vakituinen näyttelijä sarjassa ER (1994), hän esiintyi vierailevana näyttelijänä useissa televisiosarjoissa ja pilottisarjassa. Sittemmin hän on näytellyt useissa elokuvissa, kuten Ghost Ship (2002), Evelyn (2002) ja Snakes on a Plane (2006), ja hän on pääroolissa CBS:n draamasarjassa The Good Wife (2009), josta hän on voittanut sekä Emmyn että Golden Globe -palkinnon.