Kun Perry oli 15-vuotias, hän muutti Ottawasta Los Angelesiin harrastamaan näyttelemistä, ja hän kävi The Buckley School -koulua Sherman Oaksissa, josta hän valmistui 1987. Hän harrasti improvisaatiokomiikkaa LA Connectionissa Sherman Oaksissa ollessaan vielä lukiossa.
Hän näytteli Chazz Russellia tv-sarjassa Toinen mahdollisuus. 13 jakson jälkeen Second Chance muuttui Boys Will Be Boys -sarjasta Boys Will Be Boys, jonka juonet keskittyivät uudelleen Chazzin ja hänen teini-ikäisten ystäviensä seikkailuihin. Sarjan yhden kauden jälkeen Perry jäi Los Angelesiin ja debytoi valkokankaalla elokuvassa A Night in the Life of Jimmy Reardon vuonna 1988. Vuonna 1989 Perryllä oli kolmen jakson kaari sarjassa Growing Pains, jossa hän esitti Carol Seaverin poikaystävää ”Sandya”, joka kuolee sairaalassa rattijuopumusonnettomuuden jälkeen.
Tv:ssä jatkuvien monien vierasroolien keskellä Perry sai vakituisen roolin CBS:n komediasarjassa Sydney vuonna 1990, jossa hän näytteli Valerie Bertinellin otsikkohahmon nuorempaa veljeä. Vuonna 1991 hän vieraili Beverly Hills, 90210 -sarjassa Roger Azarianina. Perry sai seuraavan tv-tähtiroolinsa ABC:n komediasarjassa Home Free, joka esitettiin vain 11 jaksoa keväällä 1993, jota seurasi komediasarjan pilottijakso LAX 2194.
Hän yritti saada koe-esiintymisoikeutta pilottijaksoon Six of One, joka myöhemmin tunnettiin nimellä Friends, Marta Kauffmanin ja David Cranen toimesta, joiden molempien kanssa hän oli työskennellyt elokuvassa Dream On. Koska hänellä oli kuitenkin aiempia sitoumuksia LAX 2194 -pilottielokuvaan, häntä ei aluksi harkittu koe-esiintymiseen. Kun hän lopulta pääsi käsittelyyn, hän sai Chandler Bingin roolin.
Friends oli valtava menestys, ja Perry yhdessä näyttelijäkollegoidensa kanssa saavutti laajaa tunnettuutta tv-katsojien keskuudessa. Ohjelma toi hänelle vuonna 2002 Emmy-ehdokkuuden komediasarjan erinomaisesta miespääosasta yhdessä Matt LeBlancin kanssa, mutta he hävisivät Ray Romanolle. Perry esiintyi muun muassa elokuvissa Fools Rush In (isänsä John Bennett Perryn ja Salma Hayekin rinnalla), Almost Heroes (Melkein sankareita), Three to Tango (Kolme tangoon), The Whole Nine Yards (Bruce Willisin rinnalla) ja sen jatko-osa The Whole Ten Yards (Koko kymmenen jaardia) sekä Serving Sara (Saran palveleminen).
Vaikka Perry tunnetaan ensisijaisesti komediallisista rooleistaan, hän on tehnyt uraa myös draamaelokuvien saralla, erityisesti näyttelemällä Valkoisen talon apulaisneuvonantaja Joe Quincyä Aaron Sorkinin The West Wing -sarjassa. Hänen kolme esiintymistään kyseisessä sarjassa (kahdesti neljännellä kaudella ja kerran viidennellä kaudella) toivat hänelle kaksi Emmy-ehdokkuutta draamasarjan erinomaisesta vierailevasta näyttelijästä vuosina 2003 ja 2004. Perryyn viitataan sarjassa jo ennen hänen vierailevaa esiintymistään – Donna Moss etsii häntä (ruudun ulkopuolella) jaksossa ”20 Hours in LA”. Hän esiintyi myös asianajaja Todd Merrickinä kahdessa jaksossa lähellä Ally McBealin viiden tuotantokauden loppua, mukaan lukien kaksituntinen erikoisjakso, jonka tarkoituksena oli elvyttää juridinen draamakomedia.
Friendsin päätyttyä Perry teki ohjaajadebyyttinsä amerikkalaisen draamakomedian Scrubs neljännen tuotantokauden jaksossa, jossa hän myös vieraili vierailevana roolissa pienen lentokentän lennonjohtoryhmän operaattorina ”Murray Marks”. Murrayta pyydetään luovuttamaan munuainen isälleen Gregorylle (jota esittää Perryn oikea isä).
Hän näytteli TNT:n elokuvassa The Ron Clark Story, joka tunnetaan myös nimellä ”The Triumph”, joka sai ensi-iltansa 13. elokuuta 2006. Perry näytteli pikkukaupungin opettajaa Ron Clarkia, joka muuttaa maan kovimmalle luokalle. Perry sai suorituksestaan Golden Globe -ehdokkuuden sekä Emmy-ehdokkuuden.
Vuosina 2006-2007 Perry esiintyi Aaron Sorkinin draamassa Studio 60 on the Sunset Strip. Perry näytteli Bradley Whitfordin Danny Trippin rinnalla Matt Albieta, kirjailijaohjaajakaksikkoa, joka tuotiin mukaan pelastamaan epäonnistuvaa sketsisarjaa. Perryn hahmon katsottiin perustuvan olennaisesti Sorkinin omiin henkilökohtaisiin kokemuksiin erityisesti televisiossa.
Vuonna 2006 hän aloitti kuvaukset elokuvassa Numb, joka perustuu depersonalisaatiohäiriöstä kärsivään mieheen. Elokuvan alustavaa julkaisupäivää lykättiin useita kertoja, mutta lopulta se julkaistiin DVD:llä 13. toukokuuta 2008. Hän esiintyi myös David Mametin elokuvassa Sexual Perversity in Chicago Lontoossa. Vuonna 2009 hän näytteli elokuvassa 17 Again vanhemman Mike O’Donnellin roolissa.
Vuonna 2008 Perry näytteli omalaatuisessa elokuvassa Birds of America Morrie Tanageria, kireää miestä, joka joutuu käsittelemään sisaruksiaan. Showtime hylkäsi Perryn ja Peter Tolanin tähdittämän, käsikirjoittaman ja tuottaman synkän komedian The End of Steve.
Perryn uuden komediapilotin Mr. Sunshine, joka perustui Perryn alkuperäiseen ohjelmaideaan, osti ABC. Perryn oli määrä esittää keski-ikäistä miestä, jolla on identiteettikriisi. ABC perui sarjan yhdeksän jakson jälkeen.
Maaliskuun 1. päivänä 2012 kerrottiin, että Perry oli lupautunut näyttelemään NBC:n komediapilottisarjassa Go On, jonka kirjoitti ja tuotti entinen Friendsin käsikirjoittaja/tuottaja Scott Silveri. Projekti otettiin sarjaan toukokuussa 2012. Perry esitti Ryan Kingiä, urheilutoimittajaa, joka yrittää päästä eteenpäin vaimonsa kuoleman jälkeen pakollisten terapiaistuntojen avulla. Pilottijakso esitettiin 8. elokuuta 2012 ”sneak previewnä” vuoden 2012 kesäolympialaisten jälkeen. Sarjan ensi-ilta oli 11. syyskuuta 2012. Lokakuun 2. päivänä 2012 NBC tilasi koko 22 jakson pituisen kauden. NBC perui Go Onin toukokuussa 2013, pian ensimmäisen kauden päättymisen jälkeen.
Vuonna 2012 Perry vieraili CBS:n draamasarjassa The Good Wife vierailevana näyttelijänä asianajaja Mike Krestevana. Vuonna 2013 hän toisti roolinsa neljännellä kaudella.
Vuonna 2014 Perry teki brittiläisen tv-debyyttinsä kertaluonteisessa komediaohjelmassa The Dog Thrower, joka esitettiin 1. toukokuuta osana Sky Artsin Playhouse Presents -ohjelmaa. Perry esitti ”karismaattista miestä”, joka lumosi katsojat heittämällä koiransa ilmaan. Vuosina 2015-2017 Perry näytteli, oli mukana käsikirjoittamassa ja toimi johtavana tuottajana CBS:n komediasarjan The Odd Couple uusintaversiossa. Perry näytteli Oscar Madisonia vastapäätä Thomas Lennonia Felix Ungerina.
Perry näytteli pääroolin hänen näytelmänsä The End of Longing uudessa tuotannossa, joka sai ensi-iltansa 11. helmikuuta 2016 Lontoon Playhouse-teatterissa. Näytelmä siirtyi Off-Broadwaylle MCC-teatteriin, joka avattiin 5. kesäkuuta 2017 Jennifer Morrisonin tähdittämänä.
Maaliskuussa 2017 Perry toisti jälleen roolinsa asianajaja Mike Krestevana CBS:n The Good Wife -draaman jatko-osassa The Good Fight.
Myöhemmin vuonna 2017 hän näytteli Ted Kennedyn roolissa minisarjassa The Kennedys: Camelotin jälkeen.
Vuonna 2018 Business Insider kertoi Perryn nettovarallisuudeksi noin 80 miljoonaa dollaria.