Pellegrino pojawił się w sezonie 7, odcinku 3 The X-Files w listopadzie 1999 roku. W 2001 roku zagrał niekompetentnego płatnego zabójcę w docenionym przez krytyków filmie Mulholland Drive Davida Lyncha. Pellegrino wystąpił w roli obelżywego byłego męża Rity, Paula, w serialu Dexter stacji Showtime, a później jako Lucyfer w Supernatural oraz jako tajemniczy, prawie nieśmiertelny Jacob w serialu Lost stacji ABC. Pojawił się w serialach telewizyjnych Northern Exposure, ER, Without a Trace, NYPD Blue, CSI: Crime Scene Investigation i Knight Rider.
Zagrał „Blond Thug”, który wypycha głowę Dude’a w toalecie i upuszcza jego kulę do kręgli, łamiąc płytkę podłogową, w kultowym filmie Big Lebowski. W filmie National Treasure wystąpił w roli drugoplanowego agenta FBI znanego jako Agent Johnson. W 2005 roku Pellegrino pojawił się w nagrodzonym Oscarem filmie Capote, grając mordercę Dick Hickock.
Pośród jego licznych ról telewizyjnych kablowych i sieciowych, portretował terrorystę zamachowca Bobby’ego Jamesa na The Beast.
W marcu 2009 roku, Pellegrino został obsadzony na ABC serii Lost dla wyglądu w ostatnim odcinku sezonu 5, do roli tajemniczego Jacoba. Chociaż komunikat prasowy dla odcinka odnosi się do jego charakteru po prostu jako „Man No. 1”, odcinek ujawnił, że Pellegrino portretowany Jacob, tajemnicza postać kluczowa dla fabuły show.
Na 26 czerwca 2009, ogłoszono również, że Pellegrino został obsadzony w powtarzającej się roli jako Lucyfer w piątym sezonie CW serii Supernatural. Grał powtarzającą się rolę w siódmym sezonie, a główną rolę w sezonach 12 i 13. Zagrał główną rolę w sezonie 14 jako Nick, naczynie Lucyfera, i był gościem specjalnym w sezonie 15.
Wykonał portret wampira „Bishopa” w serialu grozy SyFy Being Human w pierwszym sezonie, a także powtarza rolę w sezonie 2 i 3 zarówno jako retrospekcje, jak i halucynacje.
W 2015 roku Pellegrino dołączył do serialu sensacyjnego ABC Quantico, grając powtarzającą się rolę zastępcy dyrektora FBI Claytona Haasa.
Pellegrino pojawił się również jako aktor głosowy w hitowej grze Far Cry 5 z 2018 roku jako Jacob Seed, jeden z antagonistów gry, jako jego pierwsza rola w grze wideo.
.