Julianna Margulies urodziła się 8 czerwca 1966 roku w Spring Valley (niedaleko Nowego Jorku), jako najmłodsza z trzech córek Franceski (Goldberg), nauczycielki i tancerki w American Ballet, oraz Paula Marguliesa, pisarza reklamowego i filozofa. Jest z pochodzenia Żydów aszkenazyjskich (z Rumunii, Austrii, Węgier i Rosji). Zanim w wieku 14 lat rozpoczęła naukę w szkole średniej w New Hampshire, mieszkała przez kilka lat z rodziną w Paryżu i w Anglii. Uzyskała tytuł B.A. w dziedzinie sztuk wyzwolonych w Sarah Lawrence College, gdzie wystąpiła w kilku sztukach teatralnych na kampusie. Pracowała jako kelnerka, aż do swojej pierwszej roli prostytutki pragnącej wyjść na prostą w filmie Out for Justice (1991). Ponad rok zajęło jej znalezienie kolejnej roli; w tym czasie zdołała utrzymać się z kilku regionalnych produkcji teatralnych i krajowych reklam telewizyjnych. Do czasu, gdy stała się stałą bywalczynią ER (1994), wystąpiła gościnnie w kilku serialach telewizyjnych i pilocie. Od tego czasu zagrała w kilku filmach, w tym w Ghost Ship (2002), Evelyn (2002) i Snakes on a Plane (2006), a także zagrała główną rolę w dramacie CBS The Good Wife (2009), za którą zdobyła zarówno Emmy, jak i Złoty Glob.