Julianna Margulies s-a născut la 8 iunie 1966 în Spring Valley (lângă New York), fiind cea mai tânără dintre cele trei fiice ale Francescăi (Goldberg), profesoară și dansatoare la American Ballet, și ale lui Paul Margulies, scriitor de publicitate și filosof. Este de origine evreiască ashkenazi (din România, Austria, Ungaria și Rusia). Până să înceapă liceul în New Hampshire, la vârsta de 14 ani, a locuit mai mulți ani cu familia sa la Paris și în Anglia. A obținut o diplomă de licență în arte liberale la Sarah Lawrence College, unde a jucat în mai multe piese de teatru în campus. A lucrat ca ospătăriță până la primul ei rol de prostituată care caută să se îndrepte în Out for Justice (1991). A fost nevoie de mai mult de un an pentru a găsi un alt rol; în acest timp, a reușit să se întrețină din mai multe producții teatrale regionale și reclame la televiziunea națională. Până când a devenit titulară în ER (1994), a jucat ca invitată în mai multe seriale de televiziune și într-un episod pilot. De atunci, a jucat în mai multe filme, printre care Ghost Ship (2002), Evelyn (2002) și Snakes on a Plane (2006), și a fost capul de afiș al serialului CBS The Good Wife (2009), pentru care a câștigat atât un Emmy, cât și un Glob de Aur.