Pellegrino se objevil v 3. epizodě 7. série seriálu Akta X v listopadu 1999. V roce 2001 si zahrál neschopného nájemného vraha v kritikou oceňovaném filmu Davida Lynche Mulholland Drive. v seriálu Dexter na stanici Showtime si Pellegrino zahrál Ritina násilnického bývalého manžela Paula, později v seriálu Supernatural Lucifera a v seriálu Ztraceni na stanici ABC tajemného téměř nesmrtelného Jacoba. Objevil se v seriálech Northern Exposure, ER, Without a Trace, NYPD Blue, CSI: Crime Scene Investigation a Knight Rider.
V kultovním filmu Big Lebowski hrál „blonďatého hromotluka“, který nacpe Dudeovi hlavu do záchodu a upustí mu bowlingovou kouli, čímž rozbije dlažbu. Ve filmu Národní poklad se objevil jako agent FBI v pozadí známý jako agent Johnson. V roce 2005 se Pellegrino objevil v oscarovém filmu Capote, kde hrál vraha Dicka Hickocka.
Mezi jeho četnými rolemi v kabelových a televizních pořadech, ztvárnil teroristického atentátníka Bobbyho Jamese v seriálu The Beast.
V březnu 2009 byl Pellegrino obsazen do seriálu stanice ABC Lost, aby se objevil v závěrečné epizodě 5. série a zahrál si roli tajemného Jacoba. Ačkoli tisková zpráva k epizodě označuje jeho postavu pouze jako „Muže č. 1“, epizoda odhalila, že Pellegrino ztvárnil Jacoba, tajemnou postavu klíčovou pro děj seriálu.
Dne 26. června 2009 bylo také oznámeno, že Pellegrino byl obsazen do opakující se role Lucifera v páté sérii seriálu Supernatural stanice CW. V sedmé sérii si zahrál opakovanou roli a ve 12. a 13. sérii hlavní roli. Ve 14. sérii hrál hlavní roli Nicka, Luciferovy nádoby, a v 15. sérii byl speciálním hostem.
V první sérii hororového seriálu Being Human od SyFy ztvárnil upíra „Bishopa“ a tuto roli si zopakoval i ve 2. a 3. sérii v podobě flashbacků i halucinací.
V roce 2015 se Pellegrino připojil k thrillerovému seriálu Quantico stanice ABC, kde ztvárnil opakující se roli zástupce ředitele FBI Claytona Haase.
Pellegrino se také objevil jako hlasový herec v herním hitu Far Cry 5 z roku 2018 v roli Jacoba Seeda, jednoho z antagonistů hry, což byla jeho první role ve videohře.
V roce 2017 se Pellegrino objevil ve hře Far Cry 5 v roli Jacoba Seeda.